异常链路检测方法、装置、电子设备以及存储介质与流程

1.本公开涉及图像处理领域，尤其涉及自动驾驶、高精地图、智能交通和计算机图像处理技术领域。具体地，涉及一种异常链路检测方法、装置、电子设备以及存储介质。


背景技术：

2.随着自动驾驶技术的不断发展，对于自动驾驶过程产生的图像处理的需求越来越高。例如，对于自动驾驶过程中产生的异常图像，需要检测异常源头。


技术实现要素：

3.本公开提供了一种异常链路检测方法、装置、电子设备以及存储介质。
4.根据本公开的一方面，提供了一种异常链路检测方法，包括：获取自动驾驶图像，其中，上述自动驾驶图像是在自动驾驶过程中生成的图像；以及，在检测到上述自动驾驶图像是异常图像的情况下，根据图像处理全链路包括的至少一个图像处理链路的检测信息，从上述图像处理全链路中确定异常图像处理链路，其中，上述图像处理链路用于处理在上述自动驾驶过程中生成的图像，上述异常图像处理链路表征生成上述异常图像的图像处理链路。
5.根据本公开的另一方面，提供了一种异常链路检测装置，包括：获取模块，用于获取自动驾驶图像，其中，上述自动驾驶图像是在自动驾驶过程中生成的图像；以及，异常检测模块，用于在检测到上述自动驾驶图像是异常图像的情况下，根据图像处理全链路包括的至少一个图像处理链路的检测信息，从上述图像处理全链路中确定异常图像处理链路，其中，上述图像处理链路用于处理在上述自动驾驶过程中生成的图像，上述异常图像处理链路表征生成上述异常图像的图像处理链路。
6.根据本公开的另一方面，提供了一种电子设备，包括：至少一个处理器；以及与上述至少一个处理器通信连接的存储器；其中，上述存储器存储有可被上述至少一个处理器执行的指令，上述指令被上述至少一个处理器执行，以使上述至少一个处理器能够执行如本公开上述的方法。
7.根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，上述计算机指令用于使上述计算机执行如本公开上述的方法。
8.根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，上述计算机程序在被处理器执行时实现如本公开上述的方法。
9.应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
10.附图用于更好地理解本方案，不构成对本公开的限定。其中：
11.图1示意性示出了根据本公开实施例的异常链路检测方法及装置的示例性系统架
构；
12.图2示意性示出了根据本公开实施例的异常链路检测方法的流程图；
13.图3示意性示出了根据本公开实施例的检测当前图像处理链路是否为异常图像处理链路的流程图；
14.图4示意性示出了根据本公开实施例的图像处理链路处理图像的应用场景图；
15.图5a示意性示出了根据本公开实施例的第一完整性信息的帧率示意图；
16.图5b示意性示出了根据本公开实施例的第二完整性信息的帧率示意图；
17.图5c示意性示出了根据本公开实施例的第三完整性信息的帧率示意图；
18.图6示意性示出了根据本公开实施例的异常链路检测装置的框图；以及
19.图7示意性示出了根据本公开实施例的适于实现异常链路检测方法的电子设备的框图。
具体实施方式
20.以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
21.在自动驾驶过程中会出现异常的自动驾驶图像。由于自动驾驶图像处理链路复杂，例如，涉及较多硬件模块和软件模块，导致难以准确定位产生异常图像的异常图像处理链路。
22.为此，本公开实施例提出了一种异常链路检测方案。例如，获取自动驾驶图像，其中，自动驾驶图像是在自动驾驶过程中生成的图像；以及在检测到自动驾驶图像是异常图像的情况下，根据图像处理全链路包括的至少一个图像处理链路的检测信息，从图像处理全链路中确定异常图像处理链路，其中，图像处理链路用于处理在自动驾驶过程中生成的图像，异常图像处理链路表征生成异常图像的图像处理链路。
23.根据本公开的实施例，通过获取自动驾驶图像，在检测自动驾驶图像是异常图像的情况下，通过对图像处理全链路内的至少一个图像处理链路的检测信息进行处理，从图像处理全链路中确定异常图像处理链路，不仅实现了图像处理全链路的异常链路检测，还实现了异常图像处理链路的源头定位，提高了异常链路的定位精度和检测效率。
24.图1示意性示出了根据本公开实施例的异常链路检测方法及装置的示例性系统架构。
25.需要注意的是，图1所示仅为可以应用本公开实施例的系统架构的示例，以帮助本领域技术人员理解本公开的技术内容，但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。
26.如图1所示，根据该实施例的系统架构100可以包括车辆101、视觉传感器102、网络103和电子设备104。网络103用以在车辆101和电子设备104之间提供通信链路的介质。网络103可以包括各种连接类型。例如，有线和无线通信链路等中的至少之一。
27.车辆101可以包括内燃机动力车辆、电动车辆或油电混合动力车辆等。例如，车辆101可以是配置有自动控制系统的车辆。车辆101可以为自动驾驶车辆。车辆101可以安装有
采集周围环境信息的采集设备。
28.视觉传感器102用于获取车辆101在自动驾驶过程中的图像。视觉传感器102可以安装在车辆101上，例如，安装于车辆101的外侧顶部，或者安装在车辆101的车辆内部。
29.视觉传感器102可以用于获取车辆101行驶过程中对象的图像。视觉传感器102可以为多种型号的相机。
30.此外，视觉传感器102可以与车辆101是一体的，也可以与车辆101是分立的，在此不作限定。
31.电子设备104可以包括终端设备和服务器中的至少之一。电子设备可以包括中央处理器(central processing unit，cpu)和图形处理器(graphics processing unit，gpu)。cpu和gpu之间可以通过pcie(peripheral component interconnect express，高速串行计算机扩展总线标准)传输链路通信连接。cpu和视觉传感器102之间可以通过pcie传输链路通信连接。终端设备可以是具有显示屏并且支持网页浏览的各种电子设备。例如，终端设备可以包括智能手机、平板电脑、膝上型便携计算机和台式计算机等中的至少之一。
32.服务器可以是提供各种服务的服务器。例如，服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与vps服务(virtual private server，虚拟专用服务器)中，存在的管理难度大，业务扩展性弱的缺陷。
33.例如，电子设备104可以用于执行本公开实施例的异常链路检测方法。电子设备104可以接收来自车辆101的自动驾驶图像。电子设备104在检测到自动驾驶图像是异常图像的情况下，根据图像处理全链路包括的至少一个图像处理链路的检测信息，从图像处理全链路中确定异常图像处理链路，其中，图像处理链路用于处理在自动驾驶过程中生成的图像，异常图像处理链路表征生成异常图像的图像处理链路。
34.例如，电子设备104还可以接收来自视觉传感器102的自动驾驶图像，以便电子设备104执行上述异常链路检测方法。。
35.本公开实施例所提供的异常链路检测方法一般也可以由电子设备104执行。相应地，本公开实施例所提供的异常链路检测装置一般可以设置于电子设备104中。本公开实施例所提供的异常链路检测方法也可以由不同于电子设备104且能够与车辆101和电子设备104中的至少之一通信的服务器或服务器集群执行。相应地，本公开实施例所提供的异常链路检测装置也可以设置于不同于电子设备104且能够与车辆101和电子设备104中的至少之一通信的服务器或服务器集群中。
36.需要说明的是，本公开实施例所提供的异常链路检测方法也可以由车辆101执行。相应地，本公开实施例所提供的异常链路检测装置也可以设置于车辆101中。
37.应该理解，图1中的车辆、视觉传感器、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的车辆、视觉传感器、网络和服务器。
38.应注意，以下方法中各个操作的序号仅作为该操作的表示以便描述，而不应被看作表示该各个操作的执行顺序。除非明确指出，否则该方法不需要完全按照所示顺序来执行。
39.图2示意性示出了根据本公开实施例的异常链路检测方法的流程图。
40.如图2所示，该方法200包括操作s210～s220。
41.在操作s210，获取自动驾驶图像。
42.在操作s220，在检测到自动驾驶图像是异常图像的情况下，根据图像处理全链路包括的至少一个图像处理链路的检测信息，从图像处理全链路中确定异常图像处理链路。
43.根据本公开的实施例，自动驾驶图像可以是在自动驾驶过程中生成的图像。自动驾驶图像可以是车辆在自动驾驶过程中生成的地图图像。地图图像可以包括以下至少之一：实际道路图像、指示牌图像等。自动驾驶图像还可以是自动驾驶车辆过程中，车辆前方的实际车况图像，例如，实际车况图像可以包括前方车辆距离自动驾驶车辆的方位信息、距离信息等。
44.根据本公开的实施例，在自动驾驶过程中，通过对视觉传感器获取的原始图像进行处理，生成最终的自动驾驶图像。但是，在生成自动驾驶图像的过程中，可能会存在丢帧、图像信息不完整等异常情况，导致生成的自动驾驶图像为异常图像。
45.根据本公开的实施例，在获取自动驾驶图像之后，可以根据实际情况确定自动驾驶图像是否为异常图像。
46.例如，在自动驾驶图像包括地图图像的情况下，响应于检测到自动驾驶图像的图像清晰度低、地图图像不完整、缺少指示牌信息和缺少道路标注信息等至少之一，确定自动驾驶图像为异常图像。
47.例如，在自动驾驶图像包括实际车况图像的情况下，响应于检测到自动驾驶图像中图像清晰度低、图像锐化、对比度显示异常、障碍物与自动驾驶车辆的位置信息和距离信息不完整等至少之一，确定自动驾驶图像为异常图像。
48.上述异常图像的确定过程仅作为示例性实施例，但不限于此，还可以包括自动驾驶领域已知的其他异常图像。
49.根据本公开的实施例，图像处理链路用于处理在自动驾驶过程中生成的图像，异常图像处理链路表征生成异常图像的图像处理链路。
50.根据本公开的实施例，图像处理全链路用于处理自动驾驶图像。由于自动驾驶图像的处理过程复杂，涉及的硬件模块或软件模块较多，因此，根据图像处理功能，可以将图像处理过程划分为多个图像处理链路，共同组成图像处理全链路。
51.根据本公开的实施例，图像处理全链路可以包括多个图像处理链路。针对图像处理全链路中的任一图像处理链路，根据任一图像处理链路的检测信息，可以确定该图像处理链路是否为异常处理链路。
52.根据本公开的实施例，检测信息至少包括以下其中之一：完整性信息、传输链路状态信息和缓存状态信息等。完整性信息用于表征输入图像处理链路的图像的完整性，例如，完整性信息可以包括是否存在丢帧、丢帧时刻和丢帧数目等中的至少之一。传输链路状态信息用于表征图像处理链路的传输链路状态，例如，图像处理链路内多个传感器或多个处理器之间的传输链路状态。缓存状态信息用于表征图像处理链路内缓存的存储资源使用情况。
53.根据本公开的实施例，多个图像处理链路的检测信息可以不同。图像处理链路的检测信息可以同时包括完整性信息、传输链路状态信息和缓存状态信息。检测信息还可以包括完整性信息、传输链路状态信息和缓存状态信息中的任意两个。检测信息还可以仅包括完整性信息、传输链路状态信息和缓存状态信息其中之一。
54.例如，图像处理链路的检测信息可以包括完整性信息、传输链路状态信息和缓存状态信息。图像处理链路的检测信息可以包括完整性信息和缓存状态信息。
55.需要说明的是，图像处理链路的检测信息可以根据实际情况进行设置，检测信息内的信息种类也可以根据实际情况进行设置，以保证可以根据检测信息确定图像处理链路是否为正常图像处理链路。
56.应该理解，多个图像处理链路之间的划分原则、图像处理链路的数目、图像处理顺序等信息均可以根据实际情况确定，本公开的实施例仅作为示例性实施例，具体的图像处理链路不限于此。
57.根据本公开的实施例，通过获取自动驾驶图像，在检测自动驾驶图像是异常图像的情况下，通过对图像处理全链路内的至少一个图像处理链路的检测信息进行处理，从图像处理全链路中确定异常图像处理链路，不仅实现了图像处理全链路的异常链路检测，还实现了异常图像处理链路的源头定位，提高了异常链路的定位精度和检测效率。
58.根据本公开的实施例，操作s220可以包括重复执行以下操作，直至从图像处理全链路中确定异常图像处理链路。
59.确定当前图像处理链路的当前检测信息。在根据当前检测信息确定当前图像处理链路是正常图像处理链路的情况下，将下一图像处理链路确定为新的当前图像处理链路。
60.根据本公开的实施例，当前图像处理链路可以表征图像处理全链路中的当前层级的图像处理链路。下一图像处理链路可以是当前图像处理链路的下一层级的图像处理链路。
61.根据本公开的实施例，图像处理全链路可以包括多个图像处理链路。多个图像处理链路可以对应多个层级的图像处理链路，且多个层级的图像处理链路之间存在执行顺序的先后关系。
62.由于图像处理全链路存在多个层级的图像处理链路，在从图像处理全链路中确定异常图像处理链路的过程中，根据当前图像处理链路的检测信息，确定当前图像处理链路是否为正常图像处理链路。在确定当前图像处理链路为正常图像处理链路的情况下，再确定下一层级的图像处理链路是否为正常图像处理链路。
63.例如，由于多个图像处理链路对应多个检测信息。在确定当前图像处理链路是否为正常图像处理链路的过程中，首先确定当前图像处理链路的当前检测信息，然后再根据当前检测信息确定当前图像处理链路是否为正常图像处理链路。
64.在确定当前图像处理链路为正常图像处理链路的情况下，将下一层级的图像处理链路确定为新的当前图像处理链路，类似地，重复执行确定当前图像处理链路是否为正常图像处理链路的判断过程，即可遍历图像处理全链路内的所有图像处理链路，从图像处理全链路中确定异常图像处理链路。
65.根据本公开的实施例，图像处理全链路可以包括第一图像处理链路，第一图像处理链路表征视觉传感器图像处理链路。在当前图像处理链路是第一图像处理链路的情况下，当前检测信息可以包括以下至少之一：第一完整性信息、第一传输链路状态信息和第一缓存状态信息。第一完整性信息表征输入视觉传感器的原始图像的完整性，第一传输链路状态信息表征视觉传感器的传输链路状态。
66.根据本公开的实施例，上述异常链路检测方法还可以包括如下操作。
67.在根据第一完整性信息确定第一图像处理链路不存在丢帧、根据第一传输链路状态信息确定第一图像处理链路的传输链路是正常传输链路和根据第一缓存状态信息确定缓存未满中的至少之一的情况下，确定第一图像处理链路是正常图像处理链路。
68.根据本公开的实施例，根据当前检测信息确定当前图像处理链路是否为正常图像处理链路。由于当前检测信息可以包括以下至少之一：第一完整性信息、第一传输链路状态信息和第一缓存状态信息。相应地，根据当前检测信息确定当前图像处理链路是否为正常图像处理链路。
69.例如，在第一图像处理链路的当前检测信息仅包括第一完整性信息的情况下，响应于根据第一完整性信息确定第一图像处理链路不存在丢帧，可以确定第一图像处理链路为正常图像处理链路。类似地，在第一图像处理链路的当前检测信息仅包括第一传输链路状态信息或第一缓存状态信息的情况下，响应于根据第一传输链路状态信息确定第一图像处理链路的传输链路是正常传输链路或根据第一缓存状态信息确定缓存未满，可以确定第一图像处理链路为正常图像处理链路。
70.例如，在第一图像处理链路的当前检测信息包括第一完整性信息、第一传输链路状态信息和第一缓存状态信息的情况下，响应于根据第一完整性信息、第一传输链路状态信息和第一缓存状态信息中任一检测信息满足第一预定条件，可以确定第一图像处理链路为正常图像处理链路。
71.作为另一个实施例，在确定第一完整性信息、第一传输链路状态信息和第一缓存状态信息均满足第一预定条件的情况下，可以确定第一图像处理链路为正常图像处理链路。例如，在根据第一完整性信息确定第一图像处理链路不存在丢帧、且根据第一传输链路状态信息确定第一图像处理链路的传输链路是正常传输链路、且根据第一缓存状态信息确定缓存未满的情况下，确定第一图像处理链路为正常图像处理链路。
72.根据本公开的实施例，第一完整性信息可以表征输入视觉传感器的原始图像的完整性。第一完整性信息可以包括以下至少之一：输入视觉传感器的原始图像是否存在丢帧、丢帧时刻、丢帧数目等信息。确定第一完整性信息的过程可以包括如下操作。
73.根据本公开的实施例，确定视觉传感器采集的帧率图像。根据帧率图像确定第一完整性信息。视觉传感器采集的帧率图像可以原始图像的帧率与时间的关系。根据帧率图像中帧率的连续性和稳定性可以确定第一完整性信息。
74.例如，帧率图像中原始图像的帧率稳定在同一个数值，且在采集时间内帧率连贯，表明第一完整性信息为不存在丢帧。
75.例如，帧率图像中原始图像的帧率在时刻a出现波动，丢失3帧，且在时刻a至时刻b之间，帧率出现了断点，表明第一完整性信息为存在丢帧，丢帧时刻为时刻a至时刻b，丢帧数目为3。
76.根据本公开的实施例，在确定第一完整性信息之后，可以根据第一完整性信息直接确定第一图像处理链路是否存在丢帧。
77.根据本公开的实施，上述异常链路检测方法还包括如下操作。
78.根据本公开的实施例，确定从视觉传感器至中央处理器之间的传输链路的信号眼图。根据信号眼图，得到第一传输链路状态信息。
79.根据本公开的实施例，眼图是指利用实验的方法估计、并通过调整改善传输系统
性能时在示波器上观察到的一种图形。例如，基于示波器的余辉作用，将扫描所得的每一个码元波形重叠在一起，可以形成眼图。
80.信号眼图中包括了丰富的信息，可以体现数字信号的整体特征，进而评估数字信号的传输质量。例如，从信号眼图中可以观察出码间串扰和噪声的影响，从而估计信号传输状态的优劣程度，因此可以根据信号眼图确定从视觉传感器至中央处理器之间的传输链路状态信息。
81.根据本公开的实施例，在当前图像处理链路为第一图像处理链路的情况下，可以通过示波器生成从视觉传感器至中央处理器之间的传输链路的信号眼图。
82.根据本公开的实施例，在确定从视觉传感器至中央处理器之间的传输链路的信号眼图之后，可以根据信号眼图是否符合标准协议，得到第一传输链路状态信息。
83.例如，根据从视觉传感器至中央处理器之间的数据传输类型，获取与上述传输类型对应的标准协议。从信号眼图内获取与上述标准协议规定的眼图数据，将上述眼图数据与标准协议限定的标准数据进行比对，得到比对信息。在比对信息表征眼图数据满足标准数据的情况下，确定第一传输链路状态信息为满足标准。由此，可以根据第一传输链路状态信息确定第一图像处理链路的传输链路是正常传输链路。
84.根据本公开的实施例，眼图数据可以至少包括以下其中之一：电压信号的幅度、电压信号的时长等。
85.例如，标准数据可以预定幅度阈值、预定时长阈值。将上述眼图数据与标准协议限定的标准数据进行比对的过程为：确定电压信号的幅度是否大于预定幅度阈值、确定电压信号的时长是否大于预定时长阈值。
86.根据本公开的实施例，预定幅度阈值或预定时长阈值可以根据数据传输类型或芯片要求确定。
87.根据本公开的实施例，从视觉传感器至中央处理器之间的传输链路的数据传输类型至少包括以下其中之一：移动行业处理器接口(mobile industry processor interface，mipi)和车载全景环视系统(gigabit multimediaserial link，gmsl)。
88.根据本公开的实施例，在确定从视觉传感器至中央处理器的传输链路包括mipi信号的情况下，获取与mipi信号对应的标准协议和信号眼图。将mipi信号的信号眼图和标准协议进行比对，在mipi信号的信号眼图满足标准协议的情况下，确定第一图像处理链路的传输链路是正常传输链路。
89.根据本公开的实施例，在确定从视觉传感器至中央处理器的传输链路包括gmsl信号的情况下，获取与gmsl信号对应的标准协议和信号眼图。将gmsl信号的信号眼图和标准协议进行比对，在gmsl信号的信号眼图满足标准协议的情况下，确定第一图像处理链路的传输链路是正常传输链路。
90.在确定从视觉传感器至中央处理器的传输链路包括mipi信号和gmsl信号的情况下，在确定在gmsl信号和mipi信号的信号眼图均满足对应的标准协议的情况下，确定第一图像处理链路的传输链路是正常传输链路。
91.根据本公开的实施例，第一缓存状态信息用于表征视觉传感器的缓存的存储资源使用情况。第一缓存状态信息可以通过设置支线线程实时获取。
92.例如，可以在确定可用存储资源值小于或等于预定可用资源存储阈值的情况下，
第一缓存状态信息可以是表征缓存已满的缓存状态信息。在确定可用资源存储值大于预定可用资源存储阈值的情况下，第一缓存状态信息可以是表征缓存未满的缓存状态信息。
93.根据本公开的实施例，图像处理全链路还可以包括第二图像处理链路。第二图像处理链路可以表征中央处理器图像处理链路。第二图像处理链路可以是第一图像处理链路的下一层级的图像处理链路。
94.根据本公开的实施例，在当前图像处理链路是第二图像处理链路的情况下，当前检测信息可以包括以下至少之一：第二完整性信息和第二缓存状态信息。第二完整性信息可以表征输入中央处理器的第一中间图像的完整性。第一中间图像可以是根据原始图像得到的。
95.根据本公开的实施例，上述异常链路检测方法还可以包括如下操作。
96.在根据第二完整性信息确定第二图像处理链路不存在丢帧和根据第二缓存状态信息确定缓存未满中的至少之一的情况下，确定第二图像处理链路是正常图像处理链路。
97.根据本公开的实施例，图像处理全链路还可以包括第三图像处理链路，第三图像处理链路可以表征图形处理器图像处理链路。第三图像处理链路可以是第二图像处理链路的下一层级的图像处理链路。
98.根据本公开的实施例，在当前图像处理链路是第三图像处理链路的情况下，当前检测信息可以包括以下至少之一：第三完整性信息、第二传输链路状态信息和第三缓存状态信息。第三完整性信息可以表征输入图形处理器的第二中间图像的完整性。第二中间图像可以是根据第一中间图像得到的。第二传输链路状态信息可以表征图形处理器的传输链路状态。
99.根据本公开的实施例，上述异常链路检测方法还可以包括如下操作。
100.在根据第三完整性信息确定第三图像处理链路不存在丢帧、根据第二传输链路状态信息确定第三图像处理链路的传输链路是正常传输链路和根据第三缓存状态信息确定缓存未满中的至少之一的情况下，确定第三图像处理链路是正常图像处理链路。
101.根据本公开的实施例，在确定第一图像处理链路为正常图像处理链路的情况下，将第一图像处理链路的下一层级的图像处理链路，即第二图像处理链路确定为新的当前图像处理链路。根据与第二图像处理链路对应的当前检测信息，可以确定第二图像处理链路是否为正常图像处理链路。
102.在确定第二图像处理链路为正常图像处理链路的情况下，将第二图像处理链路的下一层级的图像处理链路，即第三图像处理链路确定为新的当前图像处理链路。根据与第三图像处理链路对应的当前检测信息，可以确定第三图像处理链路是否为正常图像处理链路。
103.下面参考图3～图5，结合具体实施例对根据本公开实施例所述的异常链路检测方法做进一步说明。
104.图3示意性示出了根据本公开实施例的检测当前图像处理链路是否为异常图像处理链路的流程图。
105.如图3所示，该方法300包括操作s301～s305。
106.在操作s301，第一完整性信息、第一传输链路状态信息和第一缓存状态信息中的至少之一满足第一预定条件？若是，则执行操作s302；若否，则执行操作s305。
107.在操作s302，第二完整性信息和第二缓存状态信息中的至少之一满足第二预定条件？若是，则执行操作s303；若否，则执行操作s305。
108.在操作s303，第三完整性信息、第二传输链路状态信息和第三缓存状态信息中的至少之一满足第三预定条件？若是，则执行操作s304；若是，则执行操作s305。
109.在操作s304，输出其他异常。
110.在操作s305，输出异常图像处理链路。
111.根据本公开的实施例，第一预定条件可以包括根据第一完整性信息确定第一图像处理链路不存在丢帧、根据第一传输链路状态信息确定第一图像处理链路的传输链路是正常传输链路和根据第一缓存状态信息确定缓存未满中的至少之一。
112.作为一个实施例，第一预定条件可以包括根据第一完整性信息确定第一图像处理链路不存在丢帧、且根据第一传输链路状态信息确定第一图像处理链路的传输链路是正常传输链路、且根据第一缓存状态信息确定缓存未满。
113.根据本公开的实施例，第二预定条件可以包括根据第二完整性信息确定第二图像处理链路不存在丢帧和根据第二缓存状态信息确定缓存未满中的至少之一。
114.作为一个实施例，第二预定条件可以包括根据第二完整性信息确定第二图像处理链路不存在丢帧、且根据第二缓存状态信息确定缓存未满。
115.根据本公开的实施例，第三预定条件可以包括根据第三完整性信息确定第三图像处理链路不存在丢帧、根据第二传输链路状态信息确定第三图像处理链路的传输链路是正常传输链路和根据第三缓存状态信息确定缓存未满中的至少之一。
116.作为一个实施例，第三预定条件可以包括第三完整性信息确定第三图像处理链路不存在丢帧、且根据第二传输链路状态信息确定第三图像处理链路的传输链路是正常传输链路、且根据第三缓存状态信息确定缓存未满。
117.根据本公开的实施例，由于确定第一图像处理链路、第二图像处理链路和第三图像处理链路均为正常图像处理链路，即图像处理全链路中不存在异常图像处理链路，因此，在操作s304输出其他异常。
118.作为一个实施例，在操作s304输出其他异常之后，可以验证原始图像获取是否存在异常、或者自动驾驶车辆的显示器是否存在异常、或者上层应用的信息显示是否存在异常。即在确定图像处理全链路为正常图像处理链路时，检测图像处理链路以外其他设备是否存在异常。
119.根据本公开的实施例，在确定当前图像处理链路为异常图像处理链路之后，在操作ss305输出异常图像处理链路。例如，操作s301确定第一图像处理链路为异常图像处理链路的情况下，在操作s305输出“第一图像处理为异常图像处理链路”。操作s302确定第二图像处理链路为异常图像处理链路的情况下，在操作s305输出“第二图像处理为异常图像处理链路”。操作s303确定第三图像处理链路为异常图像处理链路的情况下，在操作s305输出“第三图像处理为异常图像处理链路”。
120.需要说明的是，由于当前图像处理链路可以为第一图像处理链路、第二图像处理链路或第三图像处理链路，异常链路检测可以直接从操作s301开始，按照执行顺序执行操作s301～s305。异常链路检测还可以从操作s302开始，按照执行顺序执行操作s302～s305。异常链路检测还可以从操作s303开始，按照执行顺序执行操作s303～s305。
121.作为另一个实施例，由于当前图像处理链路可以从除第一图像处理链路以外的图像处理链路开始，因此，在操作s304输出其他异常之后，还可以进入操作s301，从第一图像处理链路开始，执行操作s301～s305，重新检测图像处理全链路。
122.根据本公开的实施例，图像处理全链路可以包括第一图像处理链路、第二图像处理链路和第三图像处理链路，分别用于表征视觉传感器图像处理链路、中央处理器图像处理链路和图形处理器图像处理链路。将原始图像输入视觉传感器，经第一图像处理链路处理后得到第一中间图像；将第一中间图像输入中央处理器，经第二图像处理链路处理后得到第二中间图像；将第二中间图像输入图像处理器，经第三图像处理链路处理后得到自动驾驶图像。
123.图4示意性示出了根据本公开实施例的图像处理链路处理图像的应用场景图。
124.如图4所示，在400中，图像处理全链路包括第一图像处理链路401、第二图像处理链路402和第三图像处理链路403。第一图像处理链路401可以包括视觉传感器4011、串行器4012、解串器4013和fpga4014。第二图像处理链路402可以包括cpu4021。第三图像处理链路403可以包括gpu4031。
125.视觉传感器4011可以用于采集原始图像，然后通过mipi信号向串行器4012发送原始图像，以便串行器4012进行serdes转换。serdes是英文serializer(即串行器)/deserializer(即解串器)的简称。在串行器4012进行serdes转换之后，得到转换后的原始图像。串行器4012可以通过gmsl信号将转换后的原始图像传输至解串器4013。解串器4013可以对转换后的原始图像进行处理，得到处理后的图像。可以通过mipi信号将处理后的图像传输至fpga4014，以便fpga4014对处理后的图像进行图像处理，输出第一中间图像。
126.fpga4014对处理后的图像进行的图像处理可以包括帧率转换和图像优化等中的至少之一。例如，通过图像信号处理器(image signa1 processor，isp)进行图像优化。fpga4014还可以对处理后的图像进行驱动处理，以便自动驾驶上层应用的使用。例如，对处理后的图像进行压缩处理，如将yuv422转换成yuv420。yuv中的“y”可以表征“明亮度(即luma)”。“u”可以表征“色度(即chrominance)”。“v”可以表征“浓度(即chroma)”。
127.fpga4014输出第一中间图像之后，通过pcie传输链路将第一中间图像传输至第二图像处理链路402的cpu4021。
128.cpu4021可以通过图像处理例程对第一中间图像进行图像方面的处理，通过其他处理例程做驱动或传输方面的处理，从而输出第二中间图像。例如，cpu4021可以通过pcie传输链路将第二中间图像传输至第三图像处理链路403的gpu4031。
129.gpu4031的应用处理例程是自动驾驶图像处理的感知和融合定位等上层应用。gpu4031通过图像处理例程对第二中间图像进行处理得到自动驾驶图像。gpu4031还可以通过传输例程对gpu4031的负载和使用率进行处理。
130.根据本公开的实施例，在当前图像处理链路为第二图像处理链路的情况下，确定第二完整性信息的过程可以包括如下操作。
131.根据第一处理帧率，得到第二完整性信息。
132.根据本公开的实施例，第一处理帧率可以表征中央处理器中的图像处理例程的处理帧率。
133.根据本公开的实施例，在当前图像处理链路为第三图像处理链路的情况下，确定
第三完整性信息的过程可以包括如下操作。
134.根据第二处理帧率，得到第三完整性信息。
135.根据本公开的实施例，第二处理帧率表征图形处理器中的图像处理例程的处理帧率。
136.根据本公开的实施例，在将第一中间图像输入中央处理器之后，cpu可以对第一中间图像进行处理，输出第二中间图像。其中，cpu中包括图像处理例程和其他处理例程。
137.类似地，在将第二中间图像输入图形处理器之后，gpu可以对第二中间图像进行处理，输出自动驾驶图像。gpu中包括图像处理例程和其他处理例程。
138.例如，cpu中的图像处理例程包括与处理第一中间图像相关的处理例程，其他处理例程可以为处理与第一中间图像无关的处理例程。gpu中的图像处理例程包括与处理第二中间图像相关的处理例程，其他处理例程可以为处理与第二中间图像无关的处理例程。其他处理例程可以是传输例程、数据计算例程、驱动例程等。
139.根据本公开的实施例，可以提取cpu中图像处理例程的处理帧率，得到第二完整性信息。通过提取gpu中图像处理例程的处理真理，得到第三完整性信息。
140.根据本公开的实施例，在根据第一完整性信息确定第一图像处理链路存在丢帧的情况下，确定是第一图像处理链路内的硬件存在异常，如fpga存在异常。
141.根据本公开的实施例，在根据第二完整性信息确定第二图像处理链路存在丢帧，确定异常图像处理链路为第二图像处理链路，异常问题为系统软件和驱动处理异常中的至少之一。
142.根据本公开的实施例，在根据第三完整性信息确定第三图像处理链路存在丢帧的情况下，确定异常图像处理链路为第三图像处理链路，异常问题为系统软件和驱动处理异常中的至少之一。
143.图5a示意性示出了根据本公开实施例的第一完整性信息的帧率示意图。图5b示意性示出了根据本公开实施例的第二完整性信息的帧率示意图。图5c示意性示出了根据本公开实施例的第三完整性信息的帧率示意图。
144.根据本公开的实施例，以硬件配置10个200mp相机、cpu为intel x86xeon e5、gpu为2*rtx1070+2*t4为例。10相机采集的原始图像的帧率均为15帧，cpu和gpu内部图像处理例程的帧率为113hz。
145.如图5a所示，在500a中，第一图像处理链路中相机采集原始图像的帧率稳定在15hz、无断点，根据第一完整性信息确定第一图像处理链路不存在丢帧。
146.如图5b所示，在500b中，第二图像处理链路中第一处理帧率稳定在113hz、无断点，根据第二完整性信息确定第二图像处理链路不存在丢帧。
147.如图5c所示，在500c中，第三图像处理链路中第二处理帧率在80hz～120hz之间波动、无断点，根据第三完整性信息确定第三图像处理链路存在丢帧。
148.由此，根据异常链路检测方法确定第三图像处理链路为异常图像处理链路，异常问题为系统软件和驱动处理异常中的至少之一。
149.根据本公开的实施例，上述异常链路检测方法还可以包括如下操作，以便得到第二传输链路状态信息。
150.确定第三传输链路状态信息和带宽余量信息中的至少之一。根据第三传输链路状
态信息和带宽余量信息中的至少之一，得到第二传输链路状态信息。
151.根据本公开的实施例，第三传输链路状态信息可以表征pcie传输链路的传输链路状态。带宽余量信息可以表征pcie的带宽余量。
152.根据本公开的实施例，第二图像处理链路可以通过pcie传输链路将第二中间图像传输至第三图像处理链路。第二传输链路状态信息可以包括用于表征pcie传输链路是否正常的第三传输链路状态信息，以及pcie传输链路的带宽余量信息。
153.根据本公开的实施例，第三传输链路状态信息可以包括pcie传输链路是否存在高级错误报告(advanced error reporting，aer)错误，即aer错误。带宽余量信息可以包括总带宽和带宽占用量。此外，带宽余量信息还可以包括带宽占用率等。
154.根据本公开的实施例，根据第三传输链路状态信息和带宽余量信息中的至少之一，得到第二传输链路状态信息，可以包括：在根据第三传输链路状态信息确定pcie传输链路正常和根据带宽余量信息确定带宽余量充足的情况下，得到第二传输链路状态信息为正常。在根据第三传输链路状态信息确定pcie传输链路异常和根据带宽余量信息确定带宽余量不足其中之一的情况下，得到第二传输链路状态信息为异常。
155.例如，在确定第三传输链路状态信息存在aer错误，带宽余量信息为总带宽32gbps和带宽占用量为33gbps的情况下，表明带宽余量不足，pcie传输链路存在异常，得到第二传输链路状态信息为异常。根据第二传输链路状态信息确定第三图像处理链路的传输链路是异常传输链路。
156.根据本公开的实施例，通过对当前图像处理链路的当前检测信息进行处理，包括完整性信息、传输链路状态信息和缓存状态信息，确定当前图像处理链路是否为正常图像处理链路，进而从图像处理全链路中确定异常图像处理链路，由于异常定位缩小了问题范围，因此可以快速解决产生异常图像的异常问题，不仅提高了异常链路定位的可靠性和准确性，还提高了异常链路的检测效率和资源利用率。
157.以上仅是示例性实施例，但不限于此，还可以包括本领域已知的其他异常链路检测方法，只要能够提高异常图像处理链路的检测效率即可。
158.本公开的技术方案中，所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理，均符合相关法律法规的规定，且不违背公序良俗。
159.图6示意性示出了根据本公开实施例的异常链路检测装置的框图。
160.如图6所示，异常链路检测装置600可以包括获取模块610和异常检测模块620。
161.获取模块610，用于获取自动驾驶图像。自动驾驶图像是在自动驾驶过程中生成的图像。
162.异常检测模块620，用于在检测到自动驾驶图像是异常图像的情况下，根据图像处理全链路包括的至少一个图像处理链路的检测信息，从图像处理全链路中确定异常图像处理链路。图像处理链路用于处理在自动驾驶过程中生成的图像，异常图像处理链路表征生成异常图像的图像处理链路。
163.根据本公开的实施例，异常检测模块620包括重复执行以下单元，直至从图像处理全链路中确定异常图像处理链路。异常检测模块620可以包括第一确定子模块和第二确定子模块。
164.第一确定子模块，用于确定当前图像处理链路的当前检测信息。当前图像处理链
路表征图像处理全链路中的当前层级的图像处理链路。
165.第二确定子模块，用于在根据当前检测信息确定当前图像处理链路是正常图像处理链路的情况下，将下一图像处理链路确定为新的当前图像处理链路。下一图像处理链路是当前图像处理链路的下一层级的图像处理链路。
166.根据本公开的实施例，图像处理全链路包括第一图像处理链路。第一图像处理链路表征视觉传感器图像处理链路。
167.在当前图像处理链路是第一图像处理链路的情况下，当前检测信息包括以下至少之一：第一完整性信息、第一传输链路状态信息和第一缓存状态信息。第一完整性信息表征输入视觉传感器的原始图像的完整性。第一传输链路状态信息表征视觉传感器的传输链路状态。
168.根据本公开的实施例，第二确定子模块还可以包括第一确定单元。
169.第一确定单元，用于在根据第一完整性信息确定第一图像处理链路不存在丢帧、根据第一传输链路状态信息确定第一图像处理链路的传输链路是正常传输链路和根据第一缓存状态信息确定缓存未满中的至少之一的情况下，确定第一图像处理链路是正常图像处理链路。
170.根据本公开的实施例，第二确定子模块还可以包括信号眼图确定单元和第一状态确定单元。
171.信号眼图确定单元，用于确定从视觉传感器至中央处理器之间的传输链路的信号眼图。
172.第一状态确定单元，用于根据信号眼图，得到第一传输链路状态信息。
173.根据本公开的实施例，图像处理全链路还包括第二图像处理链路。第二图像处理链路表征中央处理器图像处理链路。第二图像处理链路是第一图像处理链路的下一层级的图像处理链路。
174.根据本公开的实施例，在当前图像处理链路是第二图像处理链路的情况下，当前检测信息包括以下至少之一：第二完整性信息和第二缓存状态信息。第二完整性信息表征输入中央处理器的第一中间图像的完整性。第一中间图像是根据原始图像得到的。
175.根据本公开的实施例，第二确定子模块还可以包括第二确定单元。
176.第二确定单元，用于在根据第二完整性信息确定第二图像处理链路不存在丢帧和根据第二缓存状态信息确定缓存未满中的至少之一的情况下，确定第二图像处理链路是正常图像处理链路。
177.根据本公开的实施例，第二确定子模块还可以包括第一帧率处理单元。
178.第一帧率处理单元，用于根据第一处理帧率，得到第二完整性信息。第一处理帧率表征中央处理器中的图像处理例程的处理帧率。
179.根据本公开的实施例，图像处理全链路还包括第三图像处理链路。第三图像处理链路表征图形处理器图像处理链路。第三图像处理链路是第二图像处理链路的下一层级的图像处理链路。
180.根据本公开的实施例，在当前图像处理链路是第三图像处理链路的情况下，当前检测信息包括以下至少之一：第三完整性信息、第二传输链路状态信息和第三缓存状态信息。第三完整性信息表征输入图形处理器的第二中间图像的完整性。第二中间图像是根据
第一中间图像得到的。第二传输链路状态信息表征图形处理器的传输链路状态。
181.第二确定子模块还可以包括第三确定单元。
182.第三确定单元，用于在根据第三完整性信息确定第三图像处理链路不存在丢帧、根据第二传输链路状态信息确定第三图像处理链路的传输链路是正常传输链路和根据第三缓存状态信息确定缓存未满中的至少之一的情况下，确定第三图像处理链路是正常图像处理链路。
183.根据本公开的实施例，第二确定子模块还可以包括链路状态信息和带宽余量确定单元和第二状态确定单元。
184.链路状态信息和带宽余量确定单元，用于确定第三传输链路状态信息和带宽余量信息中的至少之一。第三传输链路状态信息表征pcie传输链路的传输链路状态。带宽余量信息表征pcie的带宽余量。
185.第二状态确定单元，用于根据第三传输链路状态信息和带宽余量信息中的至少之一，得到第二传输链路状态信息。
186.根据本公开的实施例，第二确定子模块还可以包括第二帧率处理单元。
187.第二帧率处理单元，用于根据第二处理帧率，得到第三完整性信息。第二处理帧率表征图形处理器中的图像处理例程的处理帧率。
188.根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
189.根据本公开的实施例，一种电子设备，包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行如上所述的方法。
190.根据本公开的实施例，一种存储有计算机指令的非瞬时计算机可读存储介质，其中，计算机指令用于使计算机执行如上所述的方法。
191.根据本公开的实施例，一种计算机程序产品，包括计算机程序，计算机程序在被处理器执行时实现如上所述的方法。
192.图7示意性示出了根据本公开实施例的适于实现异常链路检测方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。
193.如图7所示，设备700包括计算单元701，其可以根据存储在只读存储器(rom)702中的计算机程序或者从存储单元708加载到随机访问存储器(ram)703中的计算机程序，来执行各种适当的动作和处理。在ram 703中，还可存储设备700操作所需的各种程序和数据。计算单元701、rom 702以及ram 703通过总线704彼此相连。输入/输出(i/o)接口705也连接至总线704。
194.设备700中的多个部件连接至i/o接口705，包括：输入单元706，例如键盘、鼠标等；输出单元707，例如各种类型的显示器、扬声器等；存储单元708，例如磁盘、光盘等；以及通信单元709，例如网卡、调制解调器、无线通信收发机等。通信单元709允许设备700通过诸如
因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
195.计算单元701可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元701的一些示例包括但不限于中央处理单元(cpu)、图形处理单元(gpu)、各种专用的人工智能(ai)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(dsp)、以及任何适当的处理器、控制器、微控制器等。计算单元701执行上文所描述的各个方法和处理，例如异常链路检测方法。例如，在一些实施例中，异常链路检测方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元708。在一些实施例中，计算机程序的部分或者全部可以经由rom 702和/或通信单元709而被载入和/或安装到设备700上。当计算机程序加载到ram 703并由计算单元701执行时，可以执行上文描述的异常链路检测方法的一个或多个步骤。备选地，在其他实施例中，计算单元701可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行异常链路检测方法。
196.基于前述的电子设备，本公开还提供一种自动驾驶车辆，可以包括电子设备，还可以包括通信部件、用于实现人机界面的显示屏以及用于采集周围环境信息的信息采集设备等，通信部件、显示屏、信息采集设备与电子设备之间通信连接。自动驾驶车辆包括的电子设备可以实现本公开实施例所述的对象运动轨迹信息处理方法。
197.其中，电子设备可以与通信部件、显示屏以及信息采集设备一体集成，也可以与通信部件、显示屏以及信息采集设备分体设置。
198.本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(fpga)、专用集成电路(asic)、专用标准产品(assp)、芯片上系统的系统(soc)、复杂可编程逻辑设备(cpld)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
199.用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
200.在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦除可编程只读存储器(eprom或快闪存储器)、光纤、便捷式紧凑盘只读存储器(cd-rom)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
201.为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机
具有：用于向用户显示信息的显示装置(例如，crt(阴极射线管)或者lcd(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
202.可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(lan)、广域网(wan)和互联网。
203.计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，也可以是分布式系统的服务器，或者是结合了区块链的服务器。
204.应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。
205.上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

技术特征：
1.一种异常链路检测方法，包括：获取自动驾驶图像，其中，所述自动驾驶图像是在自动驾驶过程中生成的图像；以及在检测到所述自动驾驶图像是异常图像的情况下，根据图像处理全链路包括的至少一个图像处理链路的检测信息，从所述图像处理全链路中确定异常图像处理链路，其中，所述图像处理链路用于处理在所述自动驾驶过程中生成的图像，所述异常图像处理链路表征生成所述异常图像的图像处理链路。2.根据权利要求1所述的方法，其中，所述根据图像处理全链路包括的至少一个图像处理链路的检测信息，从所述图像处理全链路中确定异常图像处理链路，包括重复执行以下操作，直至从所述图像处理全链路中确定所述异常图像处理链路：确定当前图像处理链路的当前检测信息，其中，所述当前图像处理链路表征所述图像处理全链路中的当前层级的图像处理链路；以及在根据所述当前检测信息确定所述当前图像处理链路是正常图像处理链路的情况下，将下一图像处理链路确定为新的当前图像处理链路，其中，所述下一图像处理链路是所述当前图像处理链路的下一层级的图像处理链路。3.根据权利要求2所述的方法，其中，所述图像处理全链路包括第一图像处理链路，所述第一图像处理链路表征视觉传感器图像处理链路；在所述当前图像处理链路是所述第一图像处理链路的情况下，所述当前检测信息包括以下至少之一：第一完整性信息、第一传输链路状态信息和第一缓存状态信息，所述第一完整性信息表征输入视觉传感器的原始图像的完整性，所述第一传输链路状态信息表征所述视觉传感器的传输链路状态；所述方法还包括：在根据所述第一完整性信息确定所述第一图像处理链路不存在丢帧、根据所述第一传输链路状态信息确定所述第一图像处理链路的传输链路是正常传输链路和根据所述第一缓存状态信息确定缓存未满中的至少之一的情况下，确定所述第一图像处理链路是所述正常图像处理链路。4.根据权利要求3所述的方法，还包括：确定从所述视觉传感器至中央处理器之间的传输链路的信号眼图；以及根据所述信号眼图，得到所述第一传输链路状态信息。5.根据权利要求3或4所述的方法，其中，所述图像处理全链路还包括第二图像处理链路，所述第二图像处理链路表征中央处理器图像处理链路，所述第二图像处理链路是所述第一图像处理链路的下一层级的图像处理链路；在所述当前图像处理链路是所述第二图像处理链路的情况下，所述当前检测信息包括以下至少之一：第二完整性信息和第二缓存状态信息，所述第二完整性信息表征输入中央处理器的第一中间图像的完整性，所述第一中间图像是根据所述原始图像得到的；所述方法还包括：在根据所述第二完整性信息确定所述第二图像处理链路不存在丢帧和根据所述第二缓存状态信息确定缓存未满中的至少之一的情况下，确定所述第二图像处理链路是所述正常图像处理链路。6.根据权利要求5所述的方法，还包括：
根据第一处理帧率，得到所述第二完整性信息，其中，所述第一处理帧率表征所述中央处理器中的图像处理例程的处理帧率。7.根据权利要求5或6所述的方法，其中，所述图像处理全链路还包括第三图像处理链路，所述第三图像处理链路表征图形处理器图像处理链路，所述第三图像处理链路是所述第二图像处理链路的下一层级的图像处理链路；在所述当前图像处理链路是所述第三图像处理链路的情况下，所述当前检测信息包括以下至少之一：第三完整性信息、第二传输链路状态信息和第三缓存状态信息，所述第三完整性信息表征输入图形处理器的第二中间图像的完整性，所述第二中间图像是根据所述第一中间图像得到的，所述第二传输链路状态信息表征所述图形处理器的传输链路状态；所述方法还包括：在根据所述第三完整性信息确定所述第三图像处理链路不存在丢帧、根据所述第二传输链路状态信息确定所述第三图像处理链路的传输链路是正常传输链路和根据所述第三缓存状态信息确定缓存未满中的至少之一的情况下，确定所述第三图像处理链路是所述正常图像处理链路。8.根据权利要求7所述的方法，还包括：确定第三传输链路状态信息和带宽余量信息中的至少之一，其中，所述第三传输链路状态信息表征高速串行计算机扩展总线标准pcje传输链路的传输链路状态，所述带宽余量信息表征所述pcie的带宽余量；以及根据所述第三传输链路状态信息和所述带宽余量信息中的至少之一，得到所述第二传输链路状态信息。9.根据权利要求7或8所述的方法，还包括：根据第二处理帧率，得到所述第三完整性信息，其中，所述第二处理帧率表征图形处理器中的图像处理例程的处理帧率。10.一种异常链路检测装置，包括：获取模块，用于获取自动驾驶图像，其中，所述自动驾驶图像是在自动驾驶过程中生成的图像；以及异常检测模块，用于在检测到所述自动驾驶图像是异常图像的情况下，根据图像处理全链路包括的至少一个图像处理链路的检测信息，从所述图像处理全链路中确定异常图像处理链路，其中，所述图像处理链路用于处理在所述自动驾驶过程中生成的图像，所述异常图像处理链路表征生成所述异常图像的图像处理链路。11.根据权利要求10所述的装置，其中，所述异常检测模块包括重复执行以下单元，直至从所述图像处理全链路中确定所述异常图像处理链路：第一确定子模块，用于确定当前图像处理链路的当前检测信息，其中，所述当前图像处理链路表征所述图像处理全链路中的当前层级的图像处理链路；以及第二确定子模块，用于在根据所述当前检测信息确定所述当前图像处理链路是正常图像处理链路的情况下，将下一图像处理链路确定为新的当前图像处理链路，其中，所述下一图像处理链路是所述当前图像处理链路的下一层级的图像处理链路。12.根据权利要求11所述的装置，其中，所述图像处理全链路包括第一图像处理链路，所述第一图像处理链路表征视觉传感器图像处理链路；
在所述当前图像处理链路是所述第一图像处理链路的情况下，所述当前检测信息包括以下至少之一：第一完整性信息、第一传输链路状态信息和第一缓存状态信息，所述第一完整性信息表征输入视觉传感器的原始图像的完整性，所述第一传输链路状态信息表征所述视觉传感器的传输链路状态；所述第二确定子模块还包括：第一确定单元，用于在根据所述第一完整性信息确定所述第一图像处理链路不存在丢帧、根据所述第一传输链路状态信息确定所述第一图像处理链路的传输链路是正常传输链路和根据所述第一缓存状态信息确定缓存未满中的至少之一的情况下，确定所述第一图像处理链路是所述正常图像处理链路。13.根据权利要求12所述的装置，还包括：信号眼图确定单元，用于确定从所述视觉传感器至中央处理器之间的传输链路的信号眼图；以及第一状态确定单元，用于根据所述信号眼图，得到所述第一传输链路状态信息。14.根据权利要求12或13所述的装置，其中，所述图像处理全链路还包括第二图像处理链路，所述第二图像处理链路表征中央处理器图像处理链路，所述第二图像处理链路是所述第一图像处理链路的下一层级的图像处理链路；在所述当前图像处理链路是所述第二图像处理链路的情况下，所述当前检测信息包括以下至少之一：第二完整性信息和第二缓存状态信息，所述第二完整性信息表征输入中央处理器的第一中间图像的完整性，所述第一中间图像是根据所述原始图像得到的；所述第二确定子模块还包括：第二确定单元，用于在根据所述第二完整性信息确定所述第二图像处理链路不存在丢帧和根据所述第二缓存状态信息确定缓存未满中的至少之一的情况下，确定所述第二图像处理链路是所述正常图像处理链路。15.根据权利要求14所述的装置，还包括：第一帧率处理单元，用于根据第一处理帧率，得到所述第二完整性信息，其中，所述第一处理帧率表征所述中央处理器中的图像处理例程的处理帧率。16.根据权利要求14或15所述的装置，其中，所述图像处理全链路还包括第三图像处理链路，所述第三图像处理链路表征图形处理器图像处理链路，所述第三图像处理链路是所述第二图像处理链路的下一层级的图像处理链路；在所述当前图像处理链路是所述第三图像处理链路的情况下，所述当前检测信息包括以下至少之一：第三完整性信息、第二传输链路状态信息和第三缓存状态信息，所述第三完整性信息表征输入图形处理器的第二中间图像的完整性，所述第二中间图像是根据所述第一中间图像得到的，所述第二传输链路状态信息表征所述图形处理器的传输链路状态；所述第二确定子模块还包括：第三确定单元，用于在根据所述第三完整性信息确定所述第三图像处理链路不存在丢帧、根据所述第二传输链路状态信息确定所述第三图像处理链路的传输链路是正常传输链路和根据所述第三缓存状态信息确定缓存未满中的至少之一的情况下，确定所述第三图像处理链路是所述正常图像处理链路。17.根据权利要求16所述的装置，还包括：
链路状态信息和带宽余量确定单元，用于确定第三传输链路状态信息和带宽余量信息中的至少之一，其中，所述第三传输链路状态信息表征高速串行计算机扩展总线标准pcie传输链路的传输链路状态，所述带宽余量信息表征所述pcie的带宽余量；以及第二状态确定单元，用于根据所述第三传输链路状态信息和所述带宽余量信息中的至少之一，得到所述第二传输链路状态信息。18.根据权利要求16或17所述的装置，还包括：第二帧率处理单元，用于根据第二处理帧率，得到所述第三完整性信息，其中，所述第二处理帧率表征图形处理器中的图像处理例程的处理帧率。19.一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1～9中任一项所述的方法。20.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据权利要求1～9中任一项所述的方法。21.一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据权利要求1～9中任一项所述的方法。22.一种自动驾驶车辆，包括如权利要求19所述的电子设备。

技术总结
本公开提供了一种异常链路检测方法、装置、电子设备以及存储介质，涉及图像处理领域，尤其涉及自动驾驶、高精地图、智能交通和计算机图像处理技术领域。具体实现方案为：获取自动驾驶图像，其中，自动驾驶图像是在自动驾驶过程中生成的图像；在检测到自动驾驶图像是异常图像的情况下，根据图像处理全链路包括的至少一个图像处理链路的检测信息，从图像处理全链路中确定异常图像处理链路，其中，图像处理链路用于处理在自动驾驶过程中生成的图像，异常图像处理链路表征生成异常图像的图像处理链路。链路。链路。


技术研发人员：王宇明
受保护的技术使用者：北京百度网讯科技有限公司
技术研发日：2022.12.29
技术公布日：2023/7/11