基于双模态光电器件的目标跟踪方法、装置、设备及介质

1.本技术涉及图像处理与机器视觉技术领域，特别涉及一种基于双模态光电器件的目标跟踪方法、装置、设备及介质。


背景技术：

2.目标定位是人工视觉芯片研究的一项重大课题。在自动驾驶，医疗检测，缺陷探测上应用广泛。目前目标跟踪主要的算法是基于模板匹配实现。具体通过模板图像与动态图像中每一帧图像进行相似度的比较，经过遍历动态场景图像的每一个区域，特征相似度最佳的区域即为目标位置。
3.然而，目前基于传统架构实现的目标定位需要具有传感器，存储器以及处理器，在具体任务实现的过程中不可避免的需要不同模块之间的数据转换及传输，时效性低，能耗高，而时效性是目标定位中最重要的指标特性。因此，基于此发展一种传感器内可以实现存储与处理的系统，极大地提升处理的时效性，有利于快速进行目标定位。然而，在“感存算一体”研究中，需要有多功能多模态的器件协同完成任务，不同的器件需要复杂的异质集成在一起，导致制造工艺复杂，并且处于研究初级阶段，缺乏具有多模态功能的器件来实现复杂场景中应用的需求，亟待解决。


技术实现要素：

4.本技术提供一种基于双模态光电器件的目标跟踪方法、装置、设备及介质，解决了相关技术中的目标定位由于传感器、存储器与处理器分离，导致信息传递时效性低，能耗高，制备工艺复杂等问题，降低了冗余的信息交换，提升处理时效性，并且简化了制备的工艺，利于多功能集成一体化。
5.本技术第一方面实施例提供一种基于双模态光电器件的目标跟踪方法，所述双模态光电器件包括非易失性模态和易失性模态，其中，所述方法，包括以下步骤：确定待跟踪目标，并利用所述双模态光电器件的非易失性模态对所述待跟踪目标的像素区域进行模板记忆，得到所述待跟踪目标的模板；利用所述双模态光电器件的易失性模态提取所述待跟踪目标的动态视频图像，得到所述待跟踪目标的动态场景图像；对所述待跟踪目标的模板和所述待跟踪目标的动态场景图像进行相似度匹配，并根据相似度最大值对应的区域生成目标跟踪结果。
6.可选地，所述对所述待跟踪目标的模板和所述待跟踪目标的动态场景图像进行相似度匹配，并根据相似度最大值对应的区域生成目标跟踪结果，包括：基于预设的卷积最大值策略，将所述待跟踪目标的模板经过遍历相同像素大小区域的卷积方法在所述待跟踪目标的动态场景图像的每一帧图像中进行相似度匹配，得到匹配结果；从所述匹配结果确定相似度最大值，并根据所述相似度最大值对应的区域生成目标跟踪结果。
7.可选地，所述预设的卷积最大值策略为：
8.r＝max(∑
x
′
,y
′
(t(x
′
,y
′
)
·
i(x+x
′
,y+y
′
)))；
9.其中，r为定位的目标区域，t为像素区域，i为动态场景图像，(x
′
,y
′
)为目标模板区域的坐标位置，(x,y)为实时提取动态全景的坐标位置。
10.可选地，在利用所述双模态光电器件的非易失性模态对所述待跟踪目标的像素区域进行模板记忆之前，还包括：对所述双模态光电器件进行非易失处理，使得所述双模态光电器件处于所述非易失性模态。
11.可选地，在利用所述双模态光电器件的易失性模态提取所述待跟踪目标的动态视频图像之前，还包括：对所述双模态光电器件进行易失处理，使得所述双模态光电器件处于所述易失性模态。
12.本技术第二方面实施例提供一种基于双模态光电器件的目标跟踪装置，所述双模态光电器件包括非易失性模态和易失性模态，其中，装置包括：第一获取模块，用于确定待跟踪目标，并利用所述双模态光电器件的非易失性模态对所述待跟踪目标的像素区域进行模板记忆，得到所述待跟踪目标的模板；第二获取模块，用于利用所述双模态光电器件的易失性模态提取所述待跟踪目标的动态视频图像，得到所述待跟踪目标的动态场景图像；匹配模块，用于对所述待跟踪目标的模板和所述待跟踪目标的动态场景图像进行相似度匹配，并根据相似度最大值对应的区域生成目标跟踪结果。
13.可选地，所述匹配模块，还用于：基于预设的卷积最大值策略，将所述待跟踪目标的模板经过遍历相同像素大小区域的卷积方法在所述待跟踪目标的动态场景图像的每一帧图像中进行相似度匹配，得到匹配结果；从所述匹配结果确定相似度最大值，并根据所述相似度最大值对应的区域生成目标跟踪结果。
14.可选地，所述预设的卷积最大值策略为：
15.r＝max(∑
x
′
,y
′
(t(x
′
,y
′
)
·
i(x+x
′
,y+y
′
)))；
16.其中，r为定位的目标区域，t为像素区域，i为动态场景图像，(x
′
,y
′
)为目标模板区域的坐标位置，(x,y)为实时提取动态全景的坐标位置。
17.可选地，在利用所述双模态光电器件的非易失性模态对所述待跟踪目标的像素区域进行模板记忆之前，所述第一获取模块，还用于：对所述双模态光电器件进行非易失处理，使得所述双模态光电器件处于所述非易失性模态。
18.可选地，在利用所述双模态光电器件的易失性模态提取所述待跟踪目标的动态视频图像之前，所述第二获取模块，还用于：对所述双模态光电器件进行易失处理，使得所述双模态光电器件处于所述易失性模态。
19.本技术第三方面实施例提供一种电子设备，包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述程序，以实现如上述实施例所述的基于双模态光电器件的目标跟踪方法。
20.本技术第四方面实施例提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行，以用于实现如上述实施例所述的基于双模态光电器件的目标跟踪方法。
21.由此，本技术利用双模态光电器件的非易失性模态对待跟踪目标的像素区域进行模板记忆，得到待跟踪目标的模板，利用双模态光电器件的易失性模态提取待跟踪目标的动态视频图像，得到待跟踪目标的动态场景图像，对待跟踪目标的模板和待跟踪目标的动态场景图像进行相似度匹配，并根据相似度最大值对应的区域生成目标跟踪结果。由此，解
决了相关技术中的目标定位由于传感器、存储器与处理器分离，导致信息传递时效性低，能耗高，制备工艺复杂等问题，降低了冗余的信息交换，提升处理时效性，并且简化了制备的工艺，利于多功能集成一体化。
22.本技术附加的方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本技术的实践了解到。
附图说明
23.本技术上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解，其中：
24.图1为根据本技术实施例提供的一种基于双模态光电器件的目标跟踪方法的流程图；
25.图2为根据本技术一个实施例的不同波段的非易失性光电响应和易失性光电响应的示意图；
26.图3为根据本技术一个实施例的基于双模态光电器件的模板匹配的示意图；
27.图4为根据本技术实施例的基于双模态光电器件的目标跟踪装置的方框示意图；
28.图5为根据本技术实施例的电子设备结构的示意图。
具体实施方式
29.下面详细描述本技术的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本技术，而不能理解为对本技术的限制。
30.下面参考附图描述本技术实施例的基于双模态光电器件的目标跟踪方法、装置、设备及介质。针对上述背景技术中心提到的相关技术中的目标定位由于传感器、存储器与处理器分离，导致信息传递时效性低，能耗高，制备工艺复杂的问题，本技术提供了一种基于双模态光电器件的目标跟踪方法，在该方法中，利用双模态光电器件的非易失性模态对待跟踪目标的像素区域进行模板记忆，得到待跟踪目标的模板，利用双模态光电器件的易失性模态提取待跟踪目标的动态视频图像，得到待跟踪目标的动态场景图像，对待跟踪目标的模板和待跟踪目标的动态场景图像进行相似度匹配，并根据相似度最大值对应的区域生成目标跟踪结果。由此，解决了相关技术中的目标定位由于传感器、存储器与处理器分离，导致信息传递时效性低，能耗高，制备工艺复杂等问题，降低了冗余的信息交换，提升处理时效性，并且简化了制备的工艺，利于多功能集成一体化。
31.具体而言，图1为本技术实施例所提供的一种基于双模态光电器件的目标跟踪方法的流程示意图。
32.如图1所示，该基于双模态光电器件的目标跟踪方法包括以下步骤：
33.其中，双模态光电器件包括非易失性模态和易失性模态。
34.具体地，本技术实施例针对上述“感存算一体”需要多功能多模态器件的问题上，设计了一种多模态的光电器件，即双模态光电器件，该器件由底电极，阻变层，过渡层，以及上电极构成的两端器件，兼具易失性光电特性和非易失性光电特性，两种特性可以通过电学调控来选择，并且通过器件结构设计使得光电器件的光电响应范围能从紫外拓展到可见
光范围，有利于在可见光范围对目标进行实时定位。其中，双模态光电器件在不同波段上的非易失性光电响应如图2(a)所示，双模态光电器件在不同波段上的易失性光电响应如图2(b)所示。
35.在步骤s101中，确定待跟踪目标，并利用双模态光电器件的非易失性模态对待跟踪目标的像素区域进行模板记忆，得到待跟踪目标的模板。
36.本技术实施例采用具有双模态的光电器件，包括易失性特性和非易失性模块。其中，非易失性模块用于做模板记忆所需要待跟踪目标，易失性模块用于动态视频缓存，记忆动态视频中的每一帧。
37.可选地，在一些实施例中，在利用双模态光电器件的非易失性模态对待跟踪目标的像素区域进行模板记忆之前，还包括：对双模态光电器件进行非易失处理，使得双模态光电器件处于非易失性模态。
38.可以理解的是，本技术实施例在相同硬件体系上实时感知并进行跟踪处理任务，利用双模态光电器件的非易失性模态特性对待跟踪目标的像素区域进行模板记忆，将模板记忆像素区域记为t。
39.在步骤s102中，利用双模态光电器件的易失性模态提取待跟踪目标的动态视频图像，得到待跟踪目标的动态场景图像。
40.可选地，在一些实施例中，在利用双模态光电器件的易失性模态提取待跟踪目标的动态视频图像之前，还包括：对双模态光电器件进行易失处理，使得双模态光电器件处于易失性模态。
41.应当理解的是，本技术实施例利用双模态光电器件的易失性模态特性通过相关技术中的提取算法对待跟踪目标的视频图像进行动态提取，得到整个动态场景图像，记为i。
42.在步骤s103中，对待跟踪目标的模板和待跟踪目标的动态场景图像进行相似度匹配，并根据相似度最大值对应的区域生成目标跟踪结果。
43.可选地，在一些实施例中，对待跟踪目标的模板和待跟踪目标的动态场景图像进行相似度匹配，并根据相似度最大值对应的区域生成目标跟踪结果，包括：基于预设的卷积最大值策略，将待跟踪目标的模板经过遍历相同像素大小区域的卷积方法在待跟踪目标的动态场景图像的每一帧图像中进行相似度匹配，得到匹配结果；从匹配结果确定相似度最大值，并根据相似度最大值对应的区域生成目标跟踪结果。
44.可选地，在一些实施例中，预设的卷积最大值策略为：
45.r＝max(∑x
′
,
′
((
′
,y
′
)
·
(x+
′
,+y
′
)))；
46.其中，r为定位的目标区域，t为像素区域，i为动态场景图像，(x
′
,y
′
)为目标模板区域的坐标位置，(x,y)为实时提取动态全景的坐标位置。
47.最后，如图3所示，本技术实施例将非易失性模板(即待跟踪目标的模板)经过遍历相同像素大小区域w
×
h的卷积方法在动态场景w
×
h的每一帧图像中相同大小的区域进行相似度比较，采用模板匹配的方法得到匹配结果，并基于预设的卷积最大值策略计算得到匹配结果中的相似度最大值r，并将相似度最大值对应的区域生成目标跟踪结果，即定位的目标位置。
48.需要说明的是，本技术实施例采用的模板匹配方法不局限与卷积最大值的判别方法，还可以采用尺度不变性特征变换，快速鲁班性特征点进行模板匹配，或者采用fast算
法，快速导向型特征点匹配，卷积神经网络模板匹配方法。
49.综上，本技术实施例针对在传统架构中由于传感器，存储器与处理器分离，带来冗余信息传递以及时延问题，设计一种具有双模态的光电器件，将视觉传感，存储，信息处理集中于同一硬件，减少不同模块之间冗余信息的交换，提升处理的时效性，将双模态的光电器件功能协同配合使用，非易失性模块用于记忆所需要跟踪的目标，易失性部分用于短时程记忆动态视频中的每一帧。在模板匹配中，将标准模板进行滑窗的方式与整个待检测区域进行特征相似度判断，依据卷积最大值的方法进行相似度判断，卷积所得最大值区域即为定位的目标位置。
50.根据本技术实施例提出的基于双模态光电器件的目标跟踪方法，利用双模态光电器件的非易失性模态对待跟踪目标的像素区域进行模板记忆，得到待跟踪目标的模板，利用双模态光电器件的易失性模态提取待跟踪目标的动态视频图像，得到待跟踪目标的动态场景图像，对待跟踪目标的模板和待跟踪目标的动态场景图像进行相似度匹配，并根据相似度最大值对应的区域生成目标跟踪结果。由此，通过设计一种具有多功能多模态的光电器件，同时具有动态光电响应模式和非易失性光电响应模式，并结合双重模态实现目标跟踪任务，在同一硬件系统即可实现感存算一体跟踪任务，解决了相关技术中的目标定位由于传感器、存储器与处理器分离，导致信息传递时效性低，能耗高，制备工艺复杂等问题，降低了冗余的信息交换，提升处理时效性，并且简化了制备的工艺，利于多功能集成一体化。
51.其次参照附图描述根据本技术实施例提出的基于双模态光电器件的目标跟踪装置。
52.图4是本技术实施例的基于双模态光电器件的目标跟踪装置的方框示意图。
53.如图4所示，该基于双模态光电器件的目标跟踪装置10包括：第一获取模块100、第二获取模块200和匹配模块300。
54.其中，第一获取模块100，用于确定待跟踪目标，并利用双模态光电器件的非易失性模态对待跟踪目标的像素区域进行模板记忆，得到待跟踪目标的模板；第二获取模块200，用于利用双模态光电器件的易失性模态提取待跟踪目标的动态视频图像，得到待跟踪目标的动态场景图像；匹配模块300，用于对待跟踪目标的模板和待跟踪目标的动态场景图像进行相似度匹配，并根据相似度最大值对应的区域生成目标跟踪结果。
55.可选地，在一些实施例中，匹配模块300，还用于：基于预设的卷积最大值策略，将待跟踪目标的模板经过遍历相同像素大小区域的卷积方法在待跟踪目标的动态场景图像的每一帧图像中进行相似度匹配，得到匹配结果；从匹配结果确定相似度最大值，并根据相似度最大值对应的区域生成目标跟踪结果。
56.可选地，在一些实施例中，预设的卷积最大值策略为：
57.r＝max(∑
x
′
,y
′
(t(x
′
,y
′
)
·
i(x+x
′
,y+y
′
)))；
58.其中，r为定位的目标区域，t为像素区域，i为动态场景图像，(x
′
,y
′
)为目标模板区域的坐标位置，(x,y)为实时提取动态全景的坐标位置。
59.可选地，在一些实施例中，在利用双模态光电器件的非易失性模态对待跟踪目标的像素区域进行模板记忆之前，第一获取模块100，还用于：对双模态光电器件进行非易失处理，使得双模态光电器件处于非易失性模态。
60.可选地，在一些实施例中，在利用双模态光电器件的易失性模态提取待跟踪目标
的动态视频图像之前，第二获取模块200，还用于：对双模态光电器件进行易失处理，使得双模态光电器件处于易失性模态。
61.需要说明的是，前述对基于双模态光电器件的目标跟踪方法实施例的解释说明也适用于该实施例的基于双模态光电器件的目标跟踪装置，此处不再赘述。
62.根据本技术实施例提出的基于双模态光电器件的目标跟踪装置，利用双模态光电器件的非易失性模态对待跟踪目标的像素区域进行模板记忆，得到待跟踪目标的模板，利用双模态光电器件的易失性模态提取待跟踪目标的动态视频图像，得到待跟踪目标的动态场景图像，对待跟踪目标的模板和待跟踪目标的动态场景图像进行相似度匹配，并根据相似度最大值对应的区域生成目标跟踪结果。由此，解决了相关技术中的目标定位由于传感器、存储器与处理器分离，导致信息传递时效性低，能耗高，制备工艺复杂等问题，降低了冗余的信息交换，提升处理时效性，并且简化了制备的工艺，利于多功能集成一体化。
63.图5为本技术实施例提供的电子设备的结构示意图。该电子设备可以包括：
64.存储器501、处理器502及存储在存储器501上并可在处理器502上运行的计算机程序。
65.处理器502执行程序时实现上述实施例中提供的基于双模态光电器件的目标跟踪方法。
66.进一步地，电子设备还包括：
67.通信接口503，用于存储器501和处理器502之间的通信。
68.存储器501，用于存放可在处理器502上运行的计算机程序。
69.存储器501可能包含高速ram存储器，也可能还包括非易失性存储器(non-volatile memory)，例如至少一个磁盘存储器。
70.如果存储器501、处理器502和通信接口503独立实现，则通信接口503、存储器501和处理器502可以通过总线相互连接并完成相互间的通信。总线可以是工业标准体系结构(industry standard architecture，简称为isa)总线、外部设备互连(peripheral component，简称为pci)总线或扩展工业标准体系结构(extended industry standard architecture，简称为eisa)总线等。总线可以分为地址总线、数据总线、控制总线等。为便于表示，图5中仅用一条粗线表示，但并不表示仅有一根总线或一种类型的总线。
71.可选的，在具体实现上，如果存储器501、处理器502及通信接口503，集成在一块芯片上实现，则存储器501、处理器502及通信接口503可以通过内部接口完成相互间的通信。
72.处理器502可能是一个中央处理器(central processing unit，简称为cpu)，或者是特定集成电路(application specific integrated circuit，简称为asic)，或者是被配置成实施本技术实施例的一个或多个集成电路。
73.本技术实施例还提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如上的基于双模态光电器件的目标跟踪方法。
74.在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本技术的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或n个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技
术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
75.此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本技术的描述中，“n个”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。
76.流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为，表示包括一个或更n个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本技术的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本技术的实施例所属技术领域的技术人员所理解。
77.在流程图中表示或在此以其他方式描述的逻辑和/或步骤，例如，可以被认为是用于实现逻辑功能的可执行指令的定序列表，可以具体实现在任何计算机可读介质中，以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用，或结合这些指令执行系统、装置或设备而使用。就本说明书而言，"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下：具有一个或n个布线的电连接部(电子装置)，便携式计算机盘盒(磁装置)，随机存取存储器(ram)，只读存储器(rom)，可擦除可编辑只读存储器(eprom或闪速存储器)，光纤装置，以及便携式光盘只读存储器(cdrom)。另外，计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质，因为可以例如通过对纸或其他介质进行光学扫描，接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序，然后将其存储在计算机存储器中。
78.应当理解，本技术的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，n个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。如，如果用硬件来实现和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列(pga)，现场可编程门阵列(fpga)等。
79.本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，该程序在执行时，包括方法实施例的步骤之一或其组合。
80.此外，在本技术各个实施例中的各功能单元可以集成在一个处理模块中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。
81.上述提到的存储介质可以是只读存储器，磁盘或光盘等。尽管上面已经示出和描述了本技术的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本技术的限
制，本领域的普通技术人员在本技术的范围内可以对上述实施例进行变化、修改、替换和变型。

技术特征：
1.一种基于双模态光电器件的目标跟踪方法，其特征在于，所述双模态光电器件包括非易失性模态和易失性模态，其中，所述方法包括以下步骤：确定待跟踪目标，并利用所述双模态光电器件的非易失性模态对所述待跟踪目标的像素区域进行模板记忆，得到所述待跟踪目标的模板；利用所述双模态光电器件的易失性模态提取所述待跟踪目标的动态视频图像，得到所述待跟踪目标的动态场景图像；以及对所述待跟踪目标的模板和所述待跟踪目标的动态场景图像进行相似度匹配，并根据相似度最大值对应的区域生成目标跟踪结果。2.根据权利要求1所述的方法，其特征在于，所述对所述待跟踪目标的模板和所述待跟踪目标的动态场景图像进行相似度匹配，并根据相似度最大值对应的区域生成目标跟踪结果，包括：基于预设的卷积最大值策略，将所述待跟踪目标的模板经过遍历相同像素大小区域的卷积方法在所述待跟踪目标的动态场景图像的每一帧图像中进行相似度匹配，得到匹配结果；从所述匹配结果确定相似度最大值，并根据所述相似度最大值对应的区域生成目标跟踪结果。3.根据权利要求2所述的方法，其特征在于，所述预设的卷积最大值策略为：r(x,y)＝max(∑
x
′
,
((
′
,y
′
)
·
(x+
′
,+y
′
)))；其中，r为定位的目标区域，t为像素区域，i为动态场景图像，(x
′
,y
′
)为目标模板区域的坐标位置，(x,y)为实时提取动态全景的坐标位置。4.根据权利要求1所述的方法，其特征在于，在利用所述双模态光电器件的非易失性模态对所述待跟踪目标的像素区域进行模板记忆之前，还包括：对所述双模态光电器件进行非易失处理，使得所述双模态光电器件处于所述非易失性模态。5.根据权利要求1所述的方法，其特征在于，在利用所述双模态光电器件的易失性模态提取所述待跟踪目标的动态视频图像之前，还包括：对所述双模态光电器件进行易失处理，使得所述双模态光电器件处于所述易失性模态。6.一种基于双模态光电器件的目标跟踪装置，其特征在于，所述双模态光电器件包括非易失性模态和易失性模态，其中，装置包括：第一获取模块，用于确定待跟踪目标，并利用所述双模态光电器件的非易失性模态对所述待跟踪目标的像素区域进行模板记忆，得到所述待跟踪目标的模板；第二获取模块，用于利用所述双模态光电器件的易失性模态提取所述待跟踪目标的动态视频图像，得到所述待跟踪目标的动态场景图像；以及匹配模块，用于对所述待跟踪目标的模板和所述待跟踪目标的动态场景图像进行相似度匹配，并根据相似度最大值对应的区域生成目标跟踪结果。7.根据权利要求6所述的装置，其特征在于，所述匹配模块，还用于：基于预设的卷积最大值策略，将所述待跟踪目标的模板经过遍历相同像素大小区域的卷积方法在所述待跟踪目标的动态场景图像的每一帧图像中进行相似度匹配，得到匹配结
果；从所述匹配结果确定相似度最大值，并根据所述相似度最大值对应的区域生成目标跟踪结果。8.根据权利要求7所述的装置，其特征在于，所述预设的卷积最大值策略为：r＝max(∑
x
′
,
′
((
′
,y
′
)
·
(x+
′
,+y
′
)))；其中，r为定位的目标区域，t为像素区域，i为动态场景图像，(x
′
,y
′
)为目标模板区域的坐标位置，(x,y)为实时提取动态全景的坐标位置。9.一种电子设备，其特征在于，包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述程序，以实现如权利要求1-5任一项所述的基于双模态光电器件的目标跟踪方法。10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行，以用于实现如权利要求1-5任一项所述的基于双模态光电器件的目标跟踪方法。

技术总结
本申请涉及一种基于双模态光电器件的目标跟踪方法、装置、设备及介质，双模态光电器件包括非易失性模态和易失性模态，包括：利用双模态光电器件的非易失性模态对待跟踪目标的像素区域进行模板记忆，得到待跟踪目标的模板；利用双模态光电器件的易失性模态提取待跟踪目标的动态视频图像，得到待跟踪目标的动态场景图像；对待跟踪目标的模板和待跟踪目标的动态场景图像进行相似度匹配，并根据相似度最大值对应的区域生成目标跟踪结果。由此，解决了相关技术中的目标定位由于传感器、存储器与处理器分离，导致信息传递时效性低，能耗高，制备工艺复杂等问题，降低了冗余的信息交换，提升处理时效性，并且简化了制备的工艺，利于多功能集成一体化。功能集成一体化。功能集成一体化。


技术研发人员：唐建石 黄河意 王钰言 高滨 钱鹤 吴华强
受保护的技术使用者：清华大学
技术研发日：2023.05.25
技术公布日：2023/10/15