一种人工智能交互系统的信任决策检测方法、系统及设备

1.本发明涉及操作员人机决策技术领域，特别是涉及一种人工智能交互系统的信任决策检测方法、系统及设备。


背景技术：

2.随着科学技术的飞速发展，智能系统及信息技术在各个领域得到广泛应用，传统人机交互模式(操作员与操作系统交互)逐渐转化为操作员与人工智能(ai)的新型交互模式。在与ai交互过程中，操作员与ai分别形成相应的情景意识(sa)并各自完成认知和决策过程，最终二者达到人机信任决策状态并共同完成相应操作任务。在“人-机共同决策”的过程中，操作员对ai的信任程度是影响人机交互系统中人机协同效率甚至操作安全的关键要素。若操作员对人工智能系统信任水平不足，就无法通过ai的辅助来有效降低由于疲劳或注意力不集中等因素带来的风险；若操作员过于信任人工智能系统，又有可能因为ai的决策失误而产生严重的安全事故。因此，及时且有效地评估操作员对智能系统的信任程度对提高人机协同效率至关重要。进一步地，在人机交互中，尤其是在人与ai的智能交互中，操作员的决策状态是影响其后续决策过程的效率甚至安全的关键因素。


技术实现要素：

3.本发明的目的是提供一种人工智能交互系统的信任决策检测方法、系统及设备，能够基于操作员的脑电信号确定操作员对人工智能自动驾驶模式的信任度，进而提高人机协作的效率和安全性。
4.为实现上述目的，本发明提供了如下方案：
5.一种人工智能交互系统的信任决策检测方法，包括：
6.构建空集为决策识别结果集合；
7.获取人工智能交互系统操作者的实时脑电信号；所述实时脑电信号是布设在操作者头部的多个电极中的多个相关电极获得的；
8.按照预设步长从实时脑电信号首端截取实时脑电信号段；
9.利用提取所述实时脑电信号段的时域特征和频域特征；
10.将所述时域特征和频域特征均输入到决策识别模型，确定实时脑电信号段对应时间操作者对智能体的自动驾驶模式的决策识别结果；所述决策识别结果为信任或不信任；所述决策识别模型是根据人工智能交互系统操作者的历史脑电信号，对神经网络进行训练得到的；
11.以实时脑电信号段对应的决策识别结果为元素，添加到决策识别结果集合中；
12.在所述实时脑电信号中删除所述实时脑电信号段，并返回步骤“按照预设步长从实时脑电信号首端截取实时脑电信号段”直至决策识别结果集合中元素数量达到预设元素数量；
13.根据所述决策识别结果集合，判断是否提示操作者切换驾驶模式。
14.可选的，根据所述决策识别结果集合，判断是否提示操作者切换驾驶模式，包括：
15.在所述决策识别结果中表示不信任的元素数量达到预设不信任元素数量时，提示操作者将驾驶模式切换到手动驾驶模式。
16.可选的，所述预设不信任元素数量小于所述预设元素数量。
17.可选的，在构建空集为决策识别结果集合之前，还包括：
18.获取人工智能交互系统操作者的多个历史脑电信号；
19.按照预设步长分别对多个历史脑电信号进行划分，得到多个历史脑电信号段；
20.确定对应时段智能体的处于自动驾驶模式的历史脑电信号段的决策信任标记为信任；
21.确定对应时段智能体的处于手动驾驶模式的历史脑电信号段的决策信任标记为不信任；
22.利用提取多个历史脑电信号段的时域特征和频域特征；
23.以所述历史脑电信号段的时域特征和频域特征为输入，以历史脑电信号段对应的决策信任标记为输出，对神经网络进行训练，得到决策识别模型。
24.一种人工智能交互系统的信任决策检测系统，包括：
25.决策识别结果集合构建模块，用于构建空集为决策识别结果集合；
26.实时脑电信号模块，用于获取人工智能交互系统操作者的实时脑电信号；所述实时脑电信号是布设在操作者头部的多个电极中的多个相关电极获得的；
27.实时脑电信号段截取模块，用于按照预设步长从实时脑电信号首端截取实时脑电信号段；
28.特征提取模块，用于利用提取所述实时脑电信号段的时域特征和频域特征；
29.决策识别结果确定模块，用于将所述时域特征和频域特征均输入到决策识别模型，确定实时脑电信号段对应时间操作者对智能体的自动驾驶模式的决策识别结果；所述决策识别结果为信任或不信任；所述决策识别模型是根据人工智能交互系统操作者的历史脑电信号，对神经网络进行训练得到的；
30.决策识别结果集合更新模块，用于以实时脑电信号段对应的决策识别结果为元素，添加到决策识别结果集合中；
31.实时脑电信号更新模块，用于在所述实时脑电信号中删除所述实时脑电信号段，并调用所述实时脑电信号段截取模块直至决策识别结果集合中元素数量达到预设元素数量；
32.驾驶模式切换模块，用于根据所述决策识别结果集合，判断是否提示操作者切换驾驶模式。
33.一种电子设备，包括存储器及处理器，所述存储器用于存储计算机程序，所述处理器运行所述计算机程序以使所述电子设备执行所述的一种人工智能交互系统的信任决策检测方法。
34.可选的，所述存储器为可读存储介质。
35.根据本发明提供的具体实施例，本发明公开了以下技术效果：
36.本发明提供的一种人工智能交互系统的信任决策检测方法、系统及设备，构建空集为决策识别结果集合；获取人工智能交互系统操作者的实时脑电信号；实时脑电信号是
布设在操作者头部的多个电极中的多个相关电极获得的；按照预设步长从实时脑电信号首端截取实时脑电信号段；利用提取实时脑电信号段的时域特征和频域特征；将时域特征和频域特征均输入到决策识别模型，确定实时脑电信号段对应时间操作者对智能体的自动驾驶模式的决策识别结果；决策识别结果为信任或不信任；决策识别模型是根据人工智能交互系统操作者的历史脑电信号，对神经网络进行训练得到的；以实时脑电信号段对应的决策识别结果为元素，添加到决策识别结果集合中；在实时脑电信号中删除实时脑电信号段，并返回步骤“按照预设步长从实时脑电信号首端截取实时脑电信号段”直至决策识别结果集合中元素数量达到预设元素数量；根据决策识别结果集合，判断是否提示操作者切换驾驶模式。本发明基于操作员的脑电信号确定操作员对人工智能自动驾驶模式的信任度，能够提高人机协作的效率和安全性。
附图说明
37.为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
38.图1为本发明实施例1中人工智能交互系统的信任决策检测方法流程图；
39.图2为本发明实施例1中大脑枕叶区导联位置示意图；
40.图3为本发明实施例1中人工智能交互系统的信任决策检测方法原理图；
41.图4为本发明实施例1中脑电信号预处理前波形图；
42.图5为本发明实施例1中脑电信号预处理后波形图；
43.图6为本发明实施例1中驾驶员决策状态检测软件系统的显示界面示意图；
44.图7为本发明实施例1中枕叶区自动/手动驾驶决策判别模型的混淆矩阵示意图。
具体实施方式
45.下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
46.本发明的目的是提供一种人工智能交互系统的信任决策检测方法、系统及设备，能够基于操作员的脑电信号确定操作员对人工智能自动驾驶模式的信任度，进而提高人机协作的效率和安全性。
47.为使本发明的上述目的、特征和优点能够更加明显易懂，下面结合附图和具体实施方式对本发明作进一步详细的说明。
48.实施例1
49.如图1和图3所示，本实施例提供了一种人工智能交互系统的信任决策检测方法，包括：
50.步骤101:构建空集为决策识别结果集合。
51.步骤102:获取人工智能交互系统操作者的实时脑电信号；实时脑电信号是布设在
操作者头部的多个电极中的多个相关电极获得的。
52.步骤103:按照预设步长从实时脑电信号首端截取实时脑电信号段。
53.步骤104:利用提取实时脑电信号段的时域特征和频域特征。
54.步骤105:将时域特征和频域特征均输入到决策识别模型，确定实时脑电信号段对应时间操作者对智能体的自动驾驶模式的决策识别结果；决策识别结果为信任或不信任；决策识别模型是根据人工智能交互系统操作者的历史脑电信号，对神经网络进行训练得到的。
55.步骤106:以实时脑电信号段对应的决策识别结果为元素，添加到决策识别结果集合中。
56.步骤107:在实时脑电信号中删除实时脑电信号段，并返回步骤103直至决策识别结果集合中元素数量达到预设元素数量。
57.步骤108:根据决策识别结果集合，判断是否提示操作者切换驾驶模式。在决策识别结果中表示不信任的元素数量达到预设不信任元素数量时，提示操作者将驾驶模式切换到手动驾驶模式。预设不信任元素数量小于预设元素数量。在决策识别结果中表示不信任的元素数量达到预设不信任元素数量时，结合不信任的水平，并且同时监控发现自动驾驶系统此时不可靠，提示操作者切换至手动驾驶模式。
58.在步骤101之前，还包括：
59.步骤109:获取人工智能交互系统操作者的多个历史脑电信号。
60.步骤1010:按照预设步长分别对多个历史脑电信号进行划分，得到多个历史脑电信号段。
61.步骤1011:确定对应时段智能体的处于自动驾驶模式的历史脑电信号段的决策信任标记为信任。
62.步骤1012:确定对应时段智能体的处于手动驾驶模式的历史脑电信号段的决策信任标记为不信任。
63.步骤1013:利用提取多个历史脑电信号段的时域特征和频域特征。
64.步骤1014:以历史脑电信号段的时域特征和频域特征为输入，以历史脑电信号段对应的决策信任标记为输出，对神经网络进行训练，得到决策识别模型。
65.本发明提供的人工智能交互系统的信任决策检测方法，包括以下步骤。
66.步骤s1：收集真实操作场景资料，整理历史操作记录，设计仿真场景并开展人因实验。
67.步骤s11：针对自动驾驶系统的不同避障成功率，设置不同的仿真场景以进行实验。具体地，设置不同的仿真场景的目的是尽可能通过设置自动驾驶系统的避障成功率将其划分为高避障率与低避障率，再通过不同仿真场景上自动驾驶避障的不同成功概率实现研究驾驶员的脑电信号对于自动驾驶系统能力好坏的判别。仿真平台应当尽量模拟驾驶员真实驾驶时所需进行的操作，即可进行正常的驾驶、刹车、转弯、鸣笛等活动。仿真平台应该至少包含：驾驶外设、模拟驾驶软件、脑电监测外设等。进行仿真任务的主要目的是使后续实验所收集的数据在一定程度上能反映真实驾驶的脑电情况，从而使建立出的脑电决策识别模型更具有真实性。
68.步骤s12：实验设计方法包括实验设备，受试者，实验流程等实验因素的设计，实验
设备包含脑电采集设备、模拟自动驾驶平台，所用设备应至少能收集脑电的相关信息。实验人员均身体健康，平均年龄在20岁，包括男性和女性，以及有驾驶经验和无驾驶经验的人员。
69.具体地，受试者进行自动驾驶注入障碍(行人/障碍物)测试，共行驶40分钟，在其期间受试者全程佩戴脑电采集数据。设置障碍注入间隔为1分钟(即一共注入40次障碍)，障碍出现前3s提示受试者，受试者在此时间内选择自动驾驶或手动接管，此时间即反应时间。认为驾驶者选择继续自动驾驶即认为其决策状态为信任，手动接管即认为不信任。且在受试者切换为手动并成功避障后需调回自动驾驶模式。受试者驾驶前20分钟设置自动驾驶成功避障率为80％，20分钟后改变自动驾驶成功避障率至20％，且此概率不告知受试者。
70.具体地，针对不同驾驶人群，需要考虑到驾驶员驾驶前后的心理状况及对自动驾驶系统的认知。模拟实验需要考虑的因素有任务时长、任务可行性、任务顺序、决策事件发生时间等，且操作人员需在实验开始前预先熟悉自动驾驶设备，掌握自动驾驶与手动驾驶模式的切换方式及手动避障的方法。
71.具体地，实验所选取的脑电采集设备尽可能选用方便佩戴的设备，如bitbrain水电极脑电仪。
72.步骤s2：在实验过程中采集3个集中分布在大脑枕叶区的相关性显著的导联的特征(编号分别是t5、poz、o1)的脑电信号、行为数据，并进行数据的预处理。
73.步骤s21：对提取的脑电数据进行时域分析、频域分析和非线性分析，并划分时间切片，提取切片内的数据指标。具体地，对获取的脑电数据根据决策事件发生节点前一秒至决策事件节点处时间段划分窗口为100ms的时间切片，对每一个时间切片数据分波段进行时域分析，对于每个切片以驾驶员的选择分为自动驾驶或手动驾驶，并对两种切片分别进行数据分析，进行比对找出判别自动驾驶决策的脑电标志。
74.步骤s3：将预处理过的数据进行描述性统计分析，将三个导联的脑电数据作为标签，并用行为数据进行检验，将分析后的脑电指标作为特征，进行特征的提取与识别。
75.步骤s31：数据预处理的操作包括依据32个活动电极测得的eeg数据，原始数据为采样率256hz的edf格式数据。在预处理过程中以fz电极为参考电极，以全脑平均电信号作为重参考，采用自动伪影去除算法去除eeg中的水平眼电、垂直眼电及肌肉伪影。导入各个刺激事件发生时间并采用事件锁定时间窗口，选定避障事件发生时刻的-1000ms～0ms区间对滤波后的脑电信号进行epoch。采用matlab和eeglab、erplab开源工具包进行eeg预处理。数据预处理前后对比图示例如图4和图5所示。
76.步骤s32：将相关性显著且相关系数高的脑电指标提取出来作为特征。提取的标签含时域特征、频域特征。时域特征的物理意义明确且较为直观，对信号特征敏感。具体选取的特征有脑电信号的最大值、最小值、均值、算数平均值、峰值、方差、标准差、标准误差、变异系数、均方根值、方根幅值、偏度、峭度、波形因子、峰值因子、脉冲因子、裕度因子、偏度因子、峭度因子等。频域特征是脑电中的另一类重要信号，可反映人的许多生理活动，具体特征包括δ能量、θ能量、α能量、β能量、总能量、δ/(δ+θ+α+β)相对能量、θ/(δ+θ+α+β)相对能量、α/(δ+θ+α+β)相对能量、β/(δ+θ+α+β)相对能量、(θ+α)/β相对能量、α/β相对能量、(θ+α)/(β+α)相对能量、θ/β相对能量、信息熵/香农熵、对数能量熵、阈值熵、确定熵、范数熵、一阶差分标准差、二阶差分标准差、移动性、复杂度等。由于获取频域及时频域特征时采用傅里叶变
换会造成信息丢失及数据效果不好，此处提取特征采用小波分析的方式。
77.具体地，可将提取的脑电信号在四个节律波上进行研究，通过频域及时频域分析得到频谱、功率谱、能量谱从而获取相应特征。频谱可采取快速傅里叶变换求得，功率谱是原信号快速傅里叶变换的平方除以区间长度，能量谱是原信号快速傅里叶变换的平方。
78.具体地，将提取的脑电信号按照波段频率滤波，可分为四个节律波：δ波(0.5～4hz)，θ波(4～8hz)，α波(8～13hz)，β波(13～30hz)，γ波(36～44hz)。
79.步骤s33：将提取到的特征分为被试者选择自动驾驶以及手动驾驶时的特征，以便进行后续神经网络方法相关步骤实现特征的识别。
80.步骤s4：用神经网络的方法对数据进行训练并验证，得到驾驶员的决策识别模型。
81.子步骤s41：将数据集按照7：3的比例划分训练集和验证集。接着用神经网络算法对模型在训练集上进行训练，得到驾驶员决策识别模型。对标签进行显著性分析，选取出显著的特征标签，加强显著的特征与信任/不信任决策标签的联系，进一步优化模型。
82.具体地，抽取特征的步骤如下：抽取特征的步骤如下：将三个导联分别进行顺序命名，如c1,c2,c3。在每一个活动电极下设一个集合，将该电极收集到的脑电特征包括时域特征和频域特征等存放于集合内，特征用字母标识如xi。最后在顶层设置一特征集t，其中包含有32个活动电极的集合，如下式所示：
83.t＝{c1,c2,c3}
84.c1＝{x1,x2,
…
,xi,...xn}
85.具体地，用神经网络模型给出每次实验的每个电极的脑电指标及决策标签之间的相关性，验证了这三个分布在大脑枕叶区的导联相比于其他导联相关程度更为显著。表1列举了这三个导联的准确率。
86.表1大脑枕叶区脑电特征与自动驾驶决策标签之间的相关性示意表
[0087][0088]
步骤s42：将基于神经网络算法的决策识别模型进行测试集检验，得到模型的准确率、精确率、召回率等评价指标，检验模型的有效性。
[0089]
具体地，准确率就是所有预测正确的(包括正类和负类)占总的比例；精确率，即正确预测为正类的占全部预测为正类的比例。召回率，即正确预测为正类的占全部实际为正类的比例。表2列举了神经网络所训练出模型的准确率、精确率、召回率。图7为枕叶区手动/自动驾驶决策判别模型的混淆矩阵。
[0090]
表2神经网络模型指标表
[0091][0092]
步骤s5：在人机交互系统中，安装风险预警软件系统。在操作人员工作时，该系统实时收集大脑枕叶区三个导联的脑电信号，运用神经网络模型进行实时风险评估和监测，进行风险预警。
[0093]
具体地，模型分类的时间区间是100ms内的信任决策还是不信任决策状态。在软件系统应用中，将20条连续时间段内的数据进行整合，获得2s内信任决策的时间总和与不信任决策的时间总和，通过比较信任决策时间和与不信任决策时间和的大小确定这2s处于信任决策状态还是不信任决策状态。对于不信任决策状态，发出警报声提醒驾驶人员及时切换成手动驾驶。如图6是驾驶员决策状态检测软件系统的显示界面。
[0094]
本技术实施例提供一种决策状态实时检测装置，包括：实验单元、存储单元和计算单元。实验单元，被配置为可制定场景与任务下的模拟实验，同时包含脑电设备能在实验过程中对被试的脑电数据进行采集，此外也提供预设的量表供被试在实验中对行为决策状态进行采集；存储单元，被配置为存储收集到的行为数据和生理数据；计算单元，被配置为根据脑电数据计算出各项指标为标签，用机器学习算法训练得到操作人员决策判别模型，并进行效能评估。
[0095]
具体地，实验单元可以分为三个子单元，实验平台子单元，脑电采集设备子单元和评价数据子单元。实验平台子单元可以为被试提供实验场景，包括满足模拟实验的软件和用于实验操作的(操作杆、鼠标、键盘、音频输入输出设备)等。脑电采集设备子单元包括用于采集被试脑电数据的设备，如脑电仪、电极片等。评价数据子单元主要用于采集实验过程中的评价数据，包括操作人员的最终决策行为，可以将数据进行储存。
[0096]
具体地，存储单元应当包括数据导入、导出功能，并能在交互界面上进行操作。
[0097]
具体地，计算单元的装置应该能够支持所提出的方法中的所有计算需求，至少包括对评估数据的计算、对脑电数据特征的提取以及统计分析、用机器学习算法训练脑电数据得到决策状态分类模型。
[0098]
由于本实施例可以应用于多种场景，下面结合具体的驾驶过程中人机共驾阶段的场景来描述具体实施例。
[0099]
自动驾驶中人机共驾阶段的手动/自动决策问题正在成为影响自动驾驶发展的关键问题之一，越来越受到人们的关注。在此阶段实时监测驾驶员对自动驾驶系统的决策状态，并及时进行风险预警，可以对降低事故的风险起到关键的作用。为此本实施例针对该驾驶场景，使用uc-win/road软件建模，并通过外接的驾驶外设仿真操作来模拟人在自动驾驶模式下避障的情况。每次实验前为实验者佩戴好脑电仪，并调试好眼动仪，在进行模拟实验的过程中用实验设备同步记录被试的眼动数据和脑电数据。为提取脑电信号的分类特征，取位于大脑枕叶区的三个显著性最强的典型电极。对提取信号进行小波变换，取其小波系数能量以及小波熵作为样本特征，得到数据样本。
[0100]
其中部分相关的指标如表3所示。
[0101]
表3eeg的指标表
[0102][0103][0104]
将3个活动电极分别进行顺序命名，如c1,c2,c3。在每一个活动电极下设一个集合，将该电极收集到的脑电特征包括时域特征和频域特征等存放于集合内，特征用字母标识如xi。最后在顶层设置一特征集t即数据集，其中包含有3个活动电极的集合，如下式所示：
[0105]
t＝{c1,c2,c3}
[0106]
c1＝{x1,x2,
…
,xi,...xn}
[0107]
将数据集分为训练集与测试集。训练集与测试集的划分比例为7∶3，为保证模型对样本特征的适应性，在划分数据集前均进行归一化和交叉验证处理。由于无障碍行驶时是自动驾驶模式，驾驶者处于信任决策状态，因此将信任决策的数据特征标签设定为0类，对存在不信任决策的数据特征标签设定为1类，对是否信任的样本特征进行二分类研究。
[0108]
用训练集对模型进行训练，得到基于神经网络算法的决策判别模型。再采用测试集数据进行测试，给出模型的准确度、精确度和召回率。在自动驾驶系统中，安装风险预警软件系统。在驾驶人员驾驶时，该系统实时收集大脑枕叶区三个电极处的脑电信号，运用神经网络决策风险判别模型进行实时风险评估和监测，进行风险预警。每隔2s更新一次驾驶
人员处于信任决策状态还是不信任决策状态。对于不信任决策状态，发出警报声提醒驾驶人员及时切换成手动驾驶。
[0109]
实施例3
[0110]
为了执行上述实施例1对应的方法，以实现相应的功能和技术效果，下面提供了一种人工智能交互系统的信任决策检测系统，包括：
[0111]
决策识别结果集合构建模块，用于构建空集为决策识别结果集合。
[0112]
实时脑电信号模块，用于获取人工智能交互系统操作者的实时脑电信号；实时脑电信号是布设在操作者头部的多个电极中的多个相关电极获得的。
[0113]
实时脑电信号段截取模块，用于按照预设步长从实时脑电信号首端截取实时脑电信号段。
[0114]
特征提取模块，用于利用提取实时脑电信号段的时域特征和频域特征。
[0115]
决策识别结果确定模块，用于将时域特征和频域特征均输入到决策识别模型，确定实时脑电信号段对应时间操作者对智能体的自动驾驶模式的决策识别结果；决策识别结果为信任或不信任；决策识别模型是根据人工智能交互系统操作者的历史脑电信号，对神经网络进行训练得到的。
[0116]
决策识别结果集合更新模块，用于以实时脑电信号段对应的决策识别结果为元素，添加到决策识别结果集合中。
[0117]
实时脑电信号更新模块，用于在实时脑电信号中删除实时脑电信号段，并调用实时脑电信号段截取模块直至决策识别结果集合中元素数量达到预设元素数量。
[0118]
驾驶模式切换模块，用于根据决策识别结果集合，判断是否提示操作者切换驾驶模式。
[0119]
实施例3
[0120]
本实施例提供了一种电子设备，包括存储器及处理器，存储器用于存储计算机程序，处理器运行计算机程序以使电子设备执行实施例1所述的一种人工智能交互系统的信任决策检测方法。其中，存储器为可读存储介质。
[0121]
本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。对于实施例公开的系统而言，由于其与实施例公开的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。
[0122]
本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处。综上所述，本说明书内容不应理解为对本发明的限制。

技术特征：
1.一种人工智能交互系统的信任决策检测方法，其特征在于，包括：构建空集为决策识别结果集合；获取人工智能交互系统操作者的实时脑电信号；所述实时脑电信号是布设在操作者头部的多个电极中的多个相关电极获得的；按照预设步长从实时脑电信号首端截取实时脑电信号段；利用提取所述实时脑电信号段的时域特征和频域特征；将所述时域特征和频域特征均输入到决策识别模型，确定实时脑电信号段对应时间操作者对智能体的自动驾驶模式的决策识别结果；所述决策识别结果为信任或不信任；所述决策识别模型是根据人工智能交互系统操作者的历史脑电信号，对神经网络进行训练得到的；以实时脑电信号段对应的决策识别结果为元素，添加到决策识别结果集合中；在所述实时脑电信号中删除所述实时脑电信号段，并返回步骤“按照预设步长从实时脑电信号首端截取实时脑电信号段”直至决策识别结果集合中元素数量达到预设元素数量；根据所述决策识别结果集合，判断是否提示操作者切换驾驶模式。2.根据权利要求1所述的人工智能交互系统的信任决策检测方法，其特征在于，根据所述决策识别结果集合，判断是否提示操作者切换驾驶模式，包括：在所述决策识别结果中表示不信任的元素数量达到预设不信任元素数量时，提示操作者将驾驶模式切换到手动驾驶模式。3.根据权利要求1所述的人工智能交互系统的信任决策检测方法，其特征在于，所述预设不信任元素数量小于所述预设元素数量。4.根据权利要求1所述的人工智能交互系统的信任决策检测方法，其特征在于，在构建空集为决策识别结果集合之前，还包括：获取人工智能交互系统操作者的多个历史脑电信号；按照预设步长分别对多个历史脑电信号进行划分，得到多个历史脑电信号段；确定对应时段智能体的处于自动驾驶模式的历史脑电信号段的决策信任标记为信任；确定对应时段智能体的处于手动驾驶模式的历史脑电信号段的决策信任标记为不信任；利用提取多个历史脑电信号段的时域特征和频域特征；以所述历史脑电信号段的时域特征和频域特征为输入，以历史脑电信号段对应的决策信任标记为输出，对神经网络进行训练，得到决策识别模型。5.一种人工智能交互系统的信任决策检测系统，其特征在于，包括：决策识别结果集合构建模块，用于构建空集为决策识别结果集合；实时脑电信号模块，用于获取人工智能交互系统操作者的实时脑电信号；所述实时脑电信号是布设在操作者头部的多个电极中的多个相关电极获得的；实时脑电信号段截取模块，用于按照预设步长从实时脑电信号首端截取实时脑电信号段；特征提取模块，用于利用提取所述实时脑电信号段的时域特征和频域特征；决策识别结果确定模块，用于将所述时域特征和频域特征均输入到决策识别模型，确
定实时脑电信号段对应时间操作者对智能体的自动驾驶模式的决策识别结果；所述决策识别结果为信任或不信任；所述决策识别模型是根据人工智能交互系统操作者的历史脑电信号，对神经网络进行训练得到的；决策识别结果集合更新模块，用于以实时脑电信号段对应的决策识别结果为元素，添加到决策识别结果集合中；实时脑电信号更新模块，用于在所述实时脑电信号中删除所述实时脑电信号段，并调用所述实时脑电信号段截取模块直至决策识别结果集合中元素数量达到预设元素数量；驾驶模式切换模块，用于根据所述决策识别结果集合，判断是否提示操作者切换驾驶模式。6.一种电子设备，其特征在于，包括存储器及处理器，所述存储器用于存储计算机程序，所述处理器运行所述计算机程序以使所述电子设备执行权利要求1至4中任一项所述的一种人工智能交互系统的信任决策检测方法。7.根据权利要求6所述的一种电子设备，其特征在于，所述存储器为可读存储介质。

技术总结
本发明提供的一种人工智能交互系统的信任决策检测方法、系统及设备，涉及操作员人机决策技术领域。本发明利用傅立叶算法提取实时脑电信号段的时域特征和频域特征；将时域特征和频域特征均输入到决策识别模型，确定实时脑电信号段对应时间操作者对智能体的自动驾驶模式的决策识别结果；以多个实时脑电信号段对应的决策识别结果为元素，构建决策识别结果集合；在根据决策识别结果集合，判断是否提示操作者切换驾驶模式。本发明基于操作员的脑电信号确定操作员对人工智能自动驾驶模式的信任度，能够提高人机协作的效率和安全性。能够提高人机协作的效率和安全性。能够提高人机协作的效率和安全性。


技术研发人员：潘星 吴嘉悦 程捷 郑任成 曹文燕 孙刘旺 刘嘉成
受保护的技术使用者：北京航空航天大学
技术研发日：2023.06.06
技术公布日：2023/8/24