障碍物信息生成方法、装置、电子设备和计算机可读介质与流程

1.本公开的实施例涉及计算机技术领域，具体涉及障碍物信息生成方法、装置、电子设备和计算机可读介质。


背景技术：

2.障碍物信息生成方法，是确定图像中障碍物信息的一项技术。目前，在生成障碍物信息时，通常采用的方式为：通过导航定位系统确定障碍物相对于当前车辆的位姿矩阵，可以用于将检测到的障碍物关键点坐标转换至当前车辆的车体坐标系，以生成障碍物信息。
3.然而，发明人发现，当采用上述方式进行障碍物信息生成时，经常会存在如下技术问题：
4.第一，在当前车辆经过减速带时出现车辆颠簸情况，导致定位系统出现较大误差，使得定位系统输出的位姿矩阵的准确度降低，由此，导致转换后的障碍物关键点坐标的准确度降低，从而，导致生成的障碍物信息的准确度降低；
5.第二，难以确定车辆颠簸的具体时间段，由此，使得定位的车辆颠簸期间的具体数据不准确，从而，导致难以提高障碍物信息的准确度。
6.该背景技术部分中所公开的以上信息仅用于增强对本发明构思的背景的理解，并因此，其可包含并不形成本国的本领域普通技术人员已知的现有技术的信息。


技术实现要素：

7.本公开的内容部分用于以简要的形式介绍构思，这些构思将在后面的具体实施方式部分被详细描述。本公开的内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征，也不旨在用于限制所要求的保护的技术方案的范围。
8.本公开的一些实施例提出了障碍物信息生成方法、装置、电子设备和计算机可读介质，来解决以上背景技术部分提到的技术问题中的一项或多项。
9.第一方面，本公开的一些实施例提供了一种障碍物信息生成方法，该方法包括：响应于确定从预设的滑动窗口中的第一个道路图像中检测到减速带关键点坐标，对上述滑动窗口中的各个道路图像进行减速带关键点跟踪检测，以生成检测关键点坐标序列；基于上述检测关键点坐标序列，生成目标减速带关键点坐标；基于上述目标减速带关键点坐标，对上述滑动窗口中的各个道路图像进行车辆抖动检测，以生成车辆抖动检测信息，其中，上述车辆抖动检测信息包括：图像静态关键点坐标组序列和对应的当前车辆位姿矩阵序列；对上述车辆抖动检测信息包括的图像静态关键点坐标组序列和对应的当前车辆位姿矩阵序列进行修正处理，以生成修正后位姿矩阵序列和修正后图像静态关键点坐标组序列；基于上述修正后位姿矩阵序列和上述修正后图像静态关键点坐标组序列，生成障碍物信息。
10.第二方面，本公开的一些实施例提供了一种障碍物信息生成装置，该装置包括：跟踪检测单元，被配置成响应于确定从预设的滑动窗口中的第一个道路图像中检测到减速带关键点坐标，对上述滑动窗口中的各个道路图像进行减速带关键点跟踪检测，以生成检测
关键点坐标序列；第一生成单元，被配置成基于上述检测关键点坐标序列，生成目标减速带关键点坐标；车辆抖动检测单元，被配置成基于上述目标减速带关键点坐标，对上述滑动窗口中的各个道路图像进行车辆抖动检测，以生成车辆抖动检测信息，其中，上述车辆抖动检测信息包括：图像静态关键点坐标组序列和对应的当前车辆位姿矩阵序列；修正处理单元，被配置成对上述车辆抖动检测信息包括的图像静态关键点坐标组序列和对应的当前车辆位姿矩阵序列进行修正处理，以生成修正后位姿矩阵序列和修正后图像静态关键点坐标组序列；第二生成单元，被配置成基于上述修正后位姿矩阵序列和上述修正后图像静态关键点坐标组序列，生成障碍物信息。
11.第三方面，本公开的一些实施例提供了一种电子设备，包括：一个或多个处理器；存储装置，其上存储有一个或多个程序，当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现上述第一方面任一实现方式所描述的方法。
12.第四方面，本公开的一些实施例提供了一种计算机可读介质，其上存储有计算机程序，其中，程序被处理器执行时实现上述第一方面任一实现方式所描述的方法。
13.本公开的上述各个实施例具有如下有益效果：通过本公开的一些实施例的障碍物信息生成方法，可以提高生成的障碍物信息的准确度。具体来说，造成生成的障碍物信息的准确度降低的原因在于：在当前车辆经过减速带时出现车辆颠簸情况，导致定位系统出现较大误差，使得定位系统输出的位姿矩阵的准确度降低，由此，导致转换后的障碍物关键点坐标的准确度降低。基于此，本公开的一些实施例的障碍物信息生成方法，首先，响应于确定从预设的滑动窗口中的第一个道路图像中检测到减速带关键点坐标，对上述滑动窗口中的各个道路图像进行减速带关键点跟踪检测，以生成检测关键点坐标序列。通过检测减速带关键点坐标，以便于粗略的确定减速带相对应当前车辆的位置。接着，基于上述检测关键点坐标序列，生成目标减速带关键点坐标。通过生成目标减速带关键点坐标，使得可以精确地定位减速带相对应当前车辆的位置，以用于后续对车辆颠簸情况进行检测。然后，基于上述目标减速带关键点坐标，对上述滑动窗口中的各个道路图像进行车辆抖动检测，以生成车辆抖动检测信息。其中，上述车辆抖动检测信息包括：图像静态关键点坐标组序列和对应的当前车辆位姿矩阵序列。通过车辆抖动检测，可以用于确定车辆抖动期间的数据。同时通过生成当前车辆位姿矩阵序列，可以便于利用图像静态关键点坐标对当前车辆位姿矩阵进行修正。之后，对上述车辆抖动检测信息包括的图像静态关键点坐标组序列和对应的当前车辆位姿矩阵序列进行修正处理，以生成修正后位姿矩阵序列和修正后图像静态关键点坐标组序列。通过修正处理，可以极大地消除由于车辆颠簸导致的定位系统误差，由此，可以提高生成的修正后位姿矩阵序列和修正后图像静态关键点坐标组序列的准确度。最后，基于上述修正后位姿矩阵序列和上述修正后图像静态关键点坐标组序列，生成障碍物信息。通过提高修正后位姿矩阵序列和修正后图像静态关键点坐标组序列的准确度，使得可以进一步提高生成的障碍物信息的准确度。
附图说明
14.结合附图并参考以下具体实施方式，本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中，相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的，元件和元素不一定按照比例绘制。
15.图1是根据本公开的障碍物信息生成方法的一些实施例的流程图；
16.图2是根据本公开的障碍物信息生成装置的一些实施例的结构示意图；
17.图3是适于用来实现本公开的一些实施例的电子设备的结构示意图。
具体实施方式
18.下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例，然而应当理解的是，本公开可以通过各种形式来实现，而且不应该被解释为限于这里阐述的实施例。相反，提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是，本公开的附图及实施例仅用于示例性作用，并非用于限制本公开的保护范围。
19.另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。在不冲突的情况下，本公开中的实施例及实施例中的特征可以相互组合。
20.需要注意，本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分，并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
21.需要注意，本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的，本领域技术人员应当理解，除非在上下文另有明确指出，否则应该理解为“一个或多个”。
22.本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的，而并不是用于对这些消息或信息的范围进行限制。
23.下面将参考附图并结合实施例来详细说明本公开。
24.图1示出了根据本公开的障碍物信息生成方法的一些实施例的流程100。该障碍物信息生成方法，包括以下步骤：
25.步骤101，响应于确定从预设的滑动窗口中的第一个道路图像中检测到减速带关键点坐标，对滑动窗口中的各个道路图像进行减速带关键点跟踪检测，以生成检测关键点坐标序列。
26.在一些实施例中，障碍物信息生成方法的执行主体可以响应于确定从预设的滑动窗口中的第一个道路图像中检测到减速带关键点坐标，对上述滑动窗口中的各个道路图像进行减速带关键点跟踪检测，以生成检测关键点坐标序列。其中，上述滑动窗口可以用于接受车载相机拍摄的连续帧道路图像。其次，通过预设的检测算法，若从第一个道路图像中检测到减速带关键点，则可以确定检测到减速带关键点坐标。这里，减速带关键点坐标可以是减速带的左侧端点、右侧端点或中点等关键点坐标。减速带关键点坐标可以是处于图像坐标系的坐标。最后，可以通过上述检测算法对上述滑动窗口中的各个道路图像进行减速带关键点跟踪检测，以生成检测关键点坐标序列。检测关键点坐标序列中的各个检测关键点坐标可以与各个道路图像对应相同的时间戳。另外，检测关键点坐标序列中的各个检测关键点坐标可以是对应同一减速带上同一位置的关键点坐标。
27.作为示例，检测算法可以包括但不限于以下至少一项：tld(tracking-learning-detection，单目标长时间跟踪)算法、yolo-v3(you only look once-version3)算法等。
28.步骤102，基于检测关键点坐标序列，生成目标减速带关键点坐标。
29.在一些实施例中，上述执行主体可以基于上述检测关键点坐标序列，生成目标减速带关键点坐标。
30.在一些实施例的一些可选的实现方式中，上述执行主体基于上述检测关键点坐标
序列，生成目标减速带关键点坐标，可以包括以下步骤：
31.第一步，获取与上述检测关键点坐标序列中各个检测关键点坐标对应的第一当前车辆相对位姿矩阵和第二当前车辆相对位姿矩阵序列。其中，上述第一当前车辆相对位姿矩阵可以是当前车辆的车体坐标系相对于相机坐标系的位姿矩阵。上述第二当前车辆相对位姿矩阵序列中的每个第二当前车辆相对位姿矩阵可以是当前车辆的车体坐标系相对于地图坐标系的位姿矩阵。这里，可以通过有线的方式或者无线的方式获取定位系统输出的、与各个检测关键点坐标对应的第一当前车辆相对位姿矩阵和第二当前车辆相对位姿矩阵序列。各个第二当前车辆相对位姿矩阵对应相同的连续帧时间戳。
32.需要指出的是，上述无线连接方式可以包括但不限于3g/4g连接、wifi连接、蓝牙连接、wimax连接、zigbee连接、uwb(ultra wideband)连接、以及其他现在已知或将来开发的无线连接方式。
33.第二步，基于上述检测关键点坐标序列、上述第一当前车辆相对位姿矩阵和上述第二当前车辆相对位姿矩阵序列，生成目标减速带关键点坐标。其中，首先，可以获取与上述检测关键点坐标序列中各个检测关键点坐标对应的图像减速带关键点检测误差协方差矩阵。这里，图像减速带关键点检测误差协方差矩阵可以是2
×
2的矩阵。其次，上述目标减速带关键点坐标可以处于上述地图坐标系中。可以通过以下公式生成目标减速带关键点坐标：
[0034][0035]
其中，m表示地图坐标系。m
p*
表示处于地图坐标系中的目标减速带关键点坐标。m
p
表示优化目标，可以为4
×
1的齐次坐标，最后一行数据为1。k表示序号。ks表示上述检测关键点坐标序列中第一个(帧)检测关键点坐标的序号。ke表示上述检测关键点坐标序列中最后一个检测关键点坐标的序号。表示预设的投影函数，用于将括号内相机坐标系中的坐标投影至图像坐标系。t1表示上述第一当前车辆相对位姿矩阵。t2表示上述第二当前车辆相对位姿矩阵序列中的第二当前车辆相对位姿矩阵。t
2，k
表示第二当前车辆相对位姿矩阵序列中第k个第二当前车辆相对位姿矩阵。i表示图像坐标系。i
p
表示处于图像坐标系中的上述检测关键点坐标序列中的检测关键点坐标。i
pk
表示处于图像坐标系中的上述检测关键点坐标序列中的第k个检测关键点坐标。∑k表示与上述检测关键点坐标序列中的第k个检测关键点坐标对应的图像减速带关键点检测误差协方差矩阵。表示马氏距离。
[0036]
步骤103，基于目标减速带关键点坐标，对滑动窗口中的各个道路图像进行车辆抖动检测，以生成车辆抖动检测信息。
[0037]
在一些实施例中，上述执行主体可以基于上述目标减速带关键点坐标，对上述滑动窗口中的各个道路图像进行车辆抖动检测，以生成车辆抖动检测信息。其中，上述车辆抖动检测信息可以包括：图像静态关键点坐标组序列和对应的当前车辆位姿矩阵序列。其次，图像静态关键点坐标组可以是从一个道路图像中检测到的静态物体的关键点坐标集合。当前车辆位姿矩阵可以表征某一时刻当前车辆的位置姿态。
[0038]
作为示例，静态物体可以是车道线、路边岩、灯杆、栅栏等。
[0039]
在一些实施例的一些可选的实现方式中，上述执行主体基于上述目标减速带关键点坐标，对上述滑动窗口中的各个道路图像进行车辆抖动检测，以生成车辆抖动检测信息，可以包括以下步骤：
[0040]
第一步，基于上述第二当前车辆相对位姿矩阵序列，确定上述目标减速带关键点坐标相对于当前车辆车轮的齐次坐标序列。其中，首先可以获取预先设置的车轮相对车体位姿矩阵。车轮相对位姿矩阵可以是当前车辆的车轮相对于车体的位姿矩阵。然后，可以将上述车轮相对车体位姿矩阵的逆矩阵、上述目标减速带关键点坐标和上述第二当前车辆相对位姿矩阵序列中的每个第二当前车辆相对位姿矩阵的逆矩阵成乘积、确定为相对于当前车辆车轮的齐次坐标。以此，可以得到齐次坐标序列。这里，齐次坐标可以是减速带关键点相对于当前车辆车轮的坐标。
[0041]
第二步，获取与上述滑动窗口中的各个道路图像对应的当前车辆俯仰角速度值，得到当前车辆俯仰角速度值序列。其中，当前车辆俯仰角速度值可以用于表征当前车辆在俯仰角方向的角速度。当前车辆俯仰角速度值序列中的各个当前车辆俯仰角速度值为连续帧的数据，以及与各个道路图像一致对应连续的时间戳。
[0042]
第三步，确定上述当前车辆俯仰角速度值序列中各个当前车辆俯仰角速度值的俯仰角速度均值和俯仰角速度标准差值。
[0043]
第四步，基于上述俯仰角速度均值和上述俯仰角速度标准差值，确定上述当前车辆俯仰角速度值序列中各个当前车辆俯仰角速度值对应的目标概率值。其中，首先可以确定各个当前车辆俯仰角速度值与上述俯仰角速度值均值差值的绝对值、是否大于俯仰角速度标准差的三倍。其次，可以将结果为大于俯仰角速度标准差三倍的当前车辆俯仰角速度值的数量、占上述当前车辆俯仰角速度值序列的百分比、确定为目标概率值。这里，绝对值大于俯仰角速度标准差的三倍可以表征当前车辆处于抖动状态。
[0044]
可选的，还可以通过以下步骤生成目标概率值：
[0045]
步骤一，获取与每个当前车辆俯仰角速度值对应的当前车辆速度值。其中，对应的可以是当前车辆俯仰角速度值与当前车辆速度值对应同一时刻。
[0046]
步骤二，将每个当前车辆速度值与前一个当前车辆速度值之间的时间差的乘积的三倍确定为目标概率值。
[0047]
第五步，对于上述齐次坐标序列中的每个齐次坐标执行以下检测步骤：
[0048]
第一子步骤，响应于确定上述齐次坐标和上述目标概率值满足预设选择条件，将满足上述齐次坐标对应的道路图像确定为抖动道路图像，以及将上述抖动道路图像添加至抖动道路图像序列。其中，上述预设选择条件可以是其次坐标中前三个元素的2范数的值小于上述目标概率值。上述齐次坐标和上述目标概率值满足预设选择条件可以表征当前车辆处于抖动状态，即车轮压到减速带时产生颠簸情况。因此，可以将对应其次坐标同一时刻的道路图像确定为抖动道路图像。这里抖动道路图像序列可以是预先设置的空集，以供添加抖动道路图像。
[0049]
第二子步骤，对上述抖动道路图像进行关键点检测以生成图像静态关键点坐标组，以及将上述图像静态关键点坐标组添加至图像静态关键点坐标组序列。其中，可以通过上述检测算法对上述抖动道路图像进行关键点检测以生成图像静态关键点坐标组。其次，
图像静态关键点坐标组序列也可以是是预先设置的空集，以供添加图像静态关键点坐标组。图像静态关键点坐标组序列中不同的图像静态关键点坐标组中的图像静态关键点坐标可以是一一对应的。各个图像静态关键点坐标组可以对应连续的帧。
[0050]
可选的，上述执行主体基于上述目标减速带关键点坐标，对上述滑动窗口中的各个道路图像进行车辆抖动检测，以生成车辆抖动检测信息，还可以包括以下步骤：
[0051]
第一步，响应于确定上述齐次坐标和上述目标概率值不满足上述预设选择条件、以及上述齐次坐标与上一个满足上述预设选择条件的齐次坐标之间的帧数差大于预设帧数阈值，将与抖动道路图像序列中各个抖动道路图像对应的第二当前车辆相对位姿矩阵作为当前车辆位姿矩阵，得到当前车辆位姿矩阵序列。其中，齐次坐标和上述目标概率值不满足上述预设选择条件、以及上述齐次坐标与上一个满足上述预设选择条件的齐次坐标之间的帧数差小于预设帧数阈值(例如，50帧)、可以表征当前车辆已通过减速带。因此，可以停止进行车辆抖动检测。其次，当前车辆位置矩阵可以与道路图像对应相同的时间点，以表征当前车辆在该时间点的位置姿态。
[0052]
第二步，将上述图像静态关键点坐标组序列和上述当前车辆位姿矩阵序列确定为车辆抖动检测信息。其中，车辆抖动检测信息可以表征当前车辆在抖动期间所产生的数据。由此，可以用于精确定位车辆颠簸的具体时间段，以及精确定位颠簸期间的具体数据。从而，可以便于对颠簸期间的数据进行修正。进而，可以用于提高生成的障碍物信息的准确度。
[0053]
第三步，响应于确定上述齐次坐标和上述目标概率值不满足上述预设选择条件、以及上述齐次坐标与上一个满足上述预设选择条件的齐次坐标之间的帧数差小于等于预设帧数阈值，对上述齐次坐标的下一个齐次坐标继续执行上述检测步骤。其中，齐次坐标和上述目标概率值不满足上述预设选择条件、以及上述齐次坐标与上一个满足上述预设选择条件的齐次坐标之间的帧数差小于等于预设帧数阈值、可以表征当前车辆处于颠簸状态、且颠簸状态仍未结束。因此，需要继续进行车辆抖动检测。
[0054]
上述步骤102-步骤103及其相关内容作为本公开的实施例的一个发明点，解决了背景技术提及的技术问题二“难以确定车辆颠簸的具体时间段，由此，使得定位的车辆颠簸期间的具体数据不准确，从而，导致难以提高障碍物信息的准确度”。导致难以提高障碍物信息的准确度的因素往往如下：难以确定车辆颠簸的具体时间段，由此，使得定位的车辆颠簸期间的具体数据不准确。如果解决了上述因素，就能提高障碍物信息的准确度。为了达到这一效果，首先，通过上述公式、以及引入的第一当前车辆相对位姿矩阵和上述第二当前车辆相对位姿矩阵序列，可以用于优化初步确定检测关键点坐标序列中的各个检测关键点坐标。其中，通过公式中的投影函数，可以用于将地图坐标系中的坐标投影至图像坐标系，以便于通过最小化目标函数进行优化调整。以此可以极大的提高目标减速带关键点坐标的准确度。然后，通过引入当前车辆俯仰角速度值序列，以此生成当前车辆俯仰角速度值的俯仰角速度均值和俯仰角速度标准差值。从而，可以用于生成目标概率值。也因为生成了目标概率值，因此，对于每个齐次坐标可以确定其是否满足预设选择条件，从而确定当前车辆是否处于抖动状态。由此，可以用于精确定位处于抖动状态的帧数据。进而，便于对颠簸期间的数据进行修正。以便后续提高生成的障碍物信息的准确度。
[0055]
步骤104，对车辆抖动检测信息包括的图像静态关键点坐标组序列和对应的当前
车辆位姿矩阵序列进行修正处理，以生成修正后位姿矩阵序列和修正后图像静态关键点坐标组序列。
[0056]
在一些实施例中，上述执行主体可以对上述车辆抖动检测信息包括的图像静态关键点坐标组序列和对应的当前车辆位姿矩阵序列进行修正处理，以生成修正后位姿矩阵序列和修正后图像静态关键点坐标组序列。
[0057]
在一些实施例的一些可选的实现方式中，上述执行主体对上述车辆抖动检测信息包括的图像静态关键点坐标组序列和对应的当前车辆位姿矩阵序列进行修正处理，以生成修正后位姿矩阵序列和修正后图像静态关键点坐标组序列，可以包括以下步骤：
[0058]
第一步，获取与上述滑动窗口中各个道路图像对应的误差协方差矩阵、和除上述抖动道路图像序列中的各个抖动道路图像之外的各个道路图像对应的原始当前车辆位姿矩阵，得到误差协方差矩阵序列和原始当前车辆位姿矩阵序列。其中，误差协方差矩阵可以是预先生成的对应每个道路图像的关键点检测误差的协方差矩阵。其次，原始当前车辆位姿矩阵可以是定位系统直接输出的位姿矩阵。
[0059]
第二步，基于上述第一当前车辆相对位姿矩阵、上述第二当前车辆相对位姿矩阵序列、上述误差协方差矩阵序列和上述原始当前车辆位姿矩阵序列，对上述车辆抖动检测信息包括的图像静态关键点坐标组序列和对应的当前车辆位姿矩阵序列进行修正处理，以生成修正后位姿矩阵序列和修正后图像静态关键点坐标组序列。其中，首先，可以获取与每个抖动道路图像对应的位姿误差协方差矩阵。其次，可以通过以下公式对上述车辆抖动检测信息包括的图像静态关键点坐标组序列和对应的当前车辆位姿矩阵序列进行修正处理，以生成修正后位姿矩阵序列和修正后图像静态关键点坐标组序列：
[0060][0061]
其中，j、k表示序号。q表示坐标。表示图像静态关键点坐标组中第j个图像静态关键点坐标在地图坐标系中的坐标。表示修正后图像静态关键点坐标组中第j个修正后图像静态关键点坐标在地图坐标系中的坐标。t
2，k
表示当前车辆位姿矩阵序列中的第k个当前车辆位姿矩阵，即对应的第二当前车辆相对位姿矩阵。表示修正后位姿矩阵序列中第k个修正后位姿矩阵。e1表示图像静态关键点坐标组序列中第k个图像静态关键点坐标组中的第j个图像静态关键点坐标的投影误差值。e2表示图像静态关键点坐标组序列中第k个图像静态关键点坐标组中的第j个图像静态关键点坐标的位姿误差值。表示图像静态关键点坐标组序列中第k个图像静态关键点坐标组中的第j个图像静态关键点坐标在图像坐标系中的位置坐标。ω
j，k
表示与图像静态关键点坐标组序列中第k个图像静态关
键点坐标组中的第j个图像静态关键点坐标对应的误差协方差矩阵，即2
×
2的矩阵。t3表示原始当前车辆位姿矩阵序列中的原始当前车辆位姿矩阵。t
3，k
表示原始当前车辆位姿矩阵序列中的第k个原始当前车辆位姿矩阵。λk表示与抖动道路图像序列中的第k个抖动道路图像对应的位姿误差协方差矩阵，即6
×
6的矩阵。ln()
∨
表示特殊欧式群到特殊欧式群的李代数的对数映射。
[0062]
实践中，获取除上述抖动道路图像序列中的各个抖动道路图像之外的各个道路图像对应的原始当前车辆位姿矩阵、可以便于上述公式进行求解。其次，由于原始当前车辆位姿矩阵对应的时间点是当前车辆不在颠簸时间段内的数据，因此在上述公式求解的过程中可以不对其进行调整。以此避免对修正结果的影响。
[0063]
上述公式及其相关内容，作为本公开的实施例的另一个发明点，可以进一步解决背景技术提及的技术问题一“在当前车辆经过减速带时出现车辆颠簸情况，导致定位系统出现较大误差，使得定位系统输出的位姿矩阵的准确度降低，由此，导致转换后的障碍物关键点坐标的准确度降低，从而，导致生成的障碍物信息的准确度降低”。基于此，首先，通过引入的第一当前车辆相对位姿矩阵、上述第二当前车辆相对位姿矩阵序列，可以便于确定不同帧之间对应的同一静态关键点的坐标的投影误差值。以此，可以用于极大的消除坐标转换过程中的投影误差。然后，通过引入的误差协方差矩阵序列和上述原始当前车辆位姿矩阵序列，利用对数映射函数生成不同帧之间对应的同一静态关键点的坐标的位姿矩阵的误差值。从而，可以进一步消除由于转换矩阵引起的误差。因此，可以用于消除定位系统出现的误差。以此提高生成的修正后位姿矩阵序列和修正后图像静态关键点坐标组序列的准确度。以此可以进一步提高生成的障碍物信息的准确度。
[0064]
步骤105，基于修正后位姿矩阵序列和修正后图像静态关键点坐标组序列，生成障碍物信息。
[0065]
在一些实施例中，上述执行主体可以基于上述修正后位姿矩阵序列和上述修正后图像静态关键点坐标组序列，生成障碍物信息。
[0066]
在一些实施例的一些可选的实现方式中，上述执行主体基于上述修正后位姿矩阵序列和上述修正后图像静态关键点坐标组序列，生成障碍物信息，可以包括以下步骤：
[0067]
第一步，利用上述修正后位姿矩阵序列，将上述修正后图像静态关键点坐标组序列中的每个修正后图像静态关键点坐标组中的各个修正后图像静态关键点坐标转换至当前车辆的车体坐标系以生成转换后静态关键点坐标组，得到转换后静态关键点坐标组序列。其中，可以通过坐标转换的方式，利用上述修正后位姿矩阵序列，将修正后图像静态关键点坐标从地图坐标系转换至当前车辆的车体坐标系以生成转换后静态关键点坐标组，得到转换后静态关键点坐标组序列。
[0068]
第二步，将上述转换后静态关键点坐标组序列确定为障碍物信息。
[0069]
可选的，上述执行主体还可以执行以下步骤：
[0070]
第一步，对上述目标减速带关键点坐标进行存储。
[0071]
第二步，将上述目标减速带关键点坐标和上述障碍物信息发送至当前车辆显示终端以供显示。
[0072]
本公开的上述各个实施例具有如下有益效果：通过本公开的一些实施例的障碍物信息生成方法，可以提高生成的障碍物信息的准确度。具体来说，造成生成的障碍物信息的
准确度降低的原因在于：在当前车辆经过减速带时出现车辆颠簸情况，导致定位系统出现较大误差，使得定位系统输出的位姿矩阵的准确度降低，由此，导致转换后的障碍物关键点坐标的准确度降低。基于此，本公开的一些实施例的障碍物信息生成方法，首先，响应于确定从预设的滑动窗口中的第一个道路图像中检测到减速带关键点坐标，对上述滑动窗口中的各个道路图像进行减速带关键点跟踪检测，以生成检测关键点坐标序列。通过检测减速带关键点坐标，以便于粗略的确定减速带相对应当前车辆的位置。接着，基于上述检测关键点坐标序列，生成目标减速带关键点坐标。通过生成目标减速带关键点坐标，使得可以精确的定位减速带相对应当前车辆的位置，以用于后续对车辆颠簸情况进行检测。然后，基于上述目标减速带关键点坐标，对上述滑动窗口中的各个道路图像进行车辆抖动检测，以生成车辆抖动检测信息。其中，上述车辆抖动检测信息包括：图像静态关键点坐标组序列和对应的当前车辆位姿矩阵序列。通过车辆抖动检测，可以用于确定车辆抖动期间的数据。同时通过生成当前车辆位姿矩阵序列，可以便于利用图像静态关键点坐标对当前车辆位姿矩阵进行修正。之后，对上述车辆抖动检测信息包括的图像静态关键点坐标组序列和对应的当前车辆位姿矩阵序列进行修正处理，以生成修正后位姿矩阵序列和修正后图像静态关键点坐标组序列。通过修正处理，可以极大的消除由于车辆颠簸导致的定位系统误差，由此，可以提高生成的修正后位姿矩阵序列和修正后图像静态关键点坐标组序列的准确度。最后，基于上述修正后位姿矩阵序列和上述修正后图像静态关键点坐标组序列，生成障碍物信息。通过提高修正后位姿矩阵序列和修正后图像静态关键点坐标组序列的准确度，使得可以进一步提高生成的障碍物信息的准确度。
[0073]
进一步参考图2，作为对上述各图所示方法的实现，本公开提供了一种障碍物信息生成装置的一些实施例，这些装置实施例与图1所示的那些方法实施例相对应，该装置具体可以应用于各种电子设备中。
[0074]
如图2所示，一些实施例的障碍物信息生成装置200包括：跟踪检测单元201、第一生成单元202、车辆抖动检测单元203、修正处理单元204和第二生成单元205。其中，跟踪检测单元201，被配置成响应于确定从预设的滑动窗口中的第一个道路图像中检测到减速带关键点坐标，对上述滑动窗口中的各个道路图像进行减速带关键点跟踪检测，以生成检测关键点坐标序列；第一生成单元202，被配置成基于上述检测关键点坐标序列，生成目标减速带关键点坐标；车辆抖动检测单元203，被配置成基于上述目标减速带关键点坐标，对上述滑动窗口中的各个道路图像进行车辆抖动检测，以生成车辆抖动检测信息，其中，上述车辆抖动检测信息包括：图像静态关键点坐标组序列和对应的当前车辆位姿矩阵序列；修正处理单元204，被配置成对上述车辆抖动检测信息包括的图像静态关键点坐标组序列和对应的当前车辆位姿矩阵序列进行修正处理，以生成修正后位姿矩阵序列和修正后图像静态关键点坐标组序列；第二生成单元205，被配置成基于上述修正后位姿矩阵序列和上述修正后图像静态关键点坐标组序列，生成障碍物信息。
[0075]
可以理解的是，该装置200中记载的诸单元与参考图1描述的方法中的各个步骤相对应。由此，上文针对方法描述的操作、特征以及产生的有益效果同样适用于装置200及其中包含的单元，在此不再赘述。
[0076]
下面参考图3，其示出了适于用来实现本公开的一些实施例的电子设备300的结构示意图。图3示出的电子设备仅仅是一个示例，不应对本公开的实施例的功能和使用范围带
来任何限制。
[0077]
如图3所示，电子设备300可以包括处理装置301(例如中央处理器、图形处理器等)，其可以根据存储在只读存储器(rom)302中的程序或者从存储装置308加载到随机访问存储器(ram)303中的程序而执行各种适当的动作和处理。在ram 303中，还存储有电子设备300操作所需的各种程序和数据。处理装置301、rom 302以及ram 303通过总线304彼此相连。输入/输出(i/o)接口305也连接至总线304。
[0078]
通常，以下装置可以连接至i/o接口305：包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置306；包括例如液晶显示器(lcd)、扬声器、振动器等的输出装置307；包括例如磁带、硬盘等的存储装置308；以及通信装置309。通信装置309可以允许电子设备300与其他设备进行无线或有线通信以交换数据。虽然图3示出了具有各种装置的电子设备300，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。图3中示出的每个方框可以代表一个装置，也可以根据需要代表多个装置。
[0079]
特别地，根据本公开的一些实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的一些实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的一些实施例中，该计算机程序可以通过通信装置309从网络上被下载和安装，或者从存储装置308被安装，或者从rom 302被安装。在该计算机程序被处理装置301执行时，执行本公开的一些实施例的方法中限定的上述功能。
[0080]
需要说明的是，本公开的一些实施例上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑磁盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开的一些实施例中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开的一些实施例中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、rf(射频)等等，或者上述的任意合适的组合。
[0081]
在一些实施方式中，客户端、服务器可以利用诸如http(hyper text transfer protocol，超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信，并且可以与任意形式或介质的数字数据通信(例如，通信网络)互连。通信网络的示例包括局域网(“lan”)，广域网(“wan”)，网际网(例如，互联网)以及端对端网络(例如，ad hoc端对端网络)，以及任何当前已知或未来研发的网络。
[0082]
上述计算机可读介质可以是上述装置中所包含的；也可以是单独存在，而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：响应于确定从预设的滑动窗口中的第一个道路图像中检测到减速带关键点坐标，对上述滑动窗口中的各个道路图像进行减速带关键点跟踪检测，以生成检测关键点坐标序列；基于上述检测关键点坐标序列，生成目标减速带关键点坐标；基于上述目标减速带关键点坐标，对上述滑动窗口中的各个道路图像进行车辆抖动检测，以生成车辆抖动检测信息，其中，上述车辆抖动检测信息包括：图像静态关键点坐标组序列和对应的当前车辆位姿矩阵序列；对上述车辆抖动检测信息包括的图像静态关键点坐标组序列和对应的当前车辆位姿矩阵序列进行修正处理，以生成修正后位姿矩阵序列和修正后图像静态关键点坐标组序列；基于上述修正后位姿矩阵序列和上述修正后图像静态关键点坐标组序列，生成障碍物信息。
[0083]
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的一些实施例的操作的计算机程序代码，上述程序设计语言包括面向对象的程序设计语言—诸如java、smalltalk、c++，还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(lan)或广域网(wan)——连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
[0084]
附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
[0085]
描述于本公开的一些实施例中的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中，例如，可以描述为：一种处理器包括：跟踪检测单元、第一生成单元、车辆抖动检测单元、修正处理单元和第二生成单元。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定，例如，第一生成单元还可以被描述为“基于检测关键点坐标序列，生成目标减速带关键点坐标的单元”。
[0086]
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：现场可编程门阵列(fpga)、专用集成电路(asic)、专用标准产品(assp)、片上系统(soc)、复杂可编程逻辑设备(cpld)等等。
[0087]
以上描述仅为本公开的一些较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开的实施例中所涉及的发明范围，并不限于上述技术特征的特定组
合而成的技术方案，同时也应涵盖在不脱离上述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开的实施例中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

技术特征：
1.一种障碍物信息生成方法，包括：响应于确定从预设的滑动窗口中的第一个道路图像中检测到减速带关键点坐标，对所述滑动窗口中的各个道路图像进行减速带关键点跟踪检测，以生成检测关键点坐标序列；基于所述检测关键点坐标序列，生成目标减速带关键点坐标；基于所述目标减速带关键点坐标，对所述滑动窗口中的各个道路图像进行车辆抖动检测，以生成车辆抖动检测信息，其中，所述车辆抖动检测信息包括：图像静态关键点坐标组序列和对应的当前车辆位姿矩阵序列；对所述车辆抖动检测信息包括的图像静态关键点坐标组序列和对应的当前车辆位姿矩阵序列进行修正处理，以生成修正后位姿矩阵序列和修正后图像静态关键点坐标组序列；基于所述修正后位姿矩阵序列和所述修正后图像静态关键点坐标组序列，生成障碍物信息。2.根据权利要求1所述的方法，其中，所述方法还包括：对所述目标减速带关键点坐标进行存储；将所述目标减速带关键点坐标和所述障碍物信息发送至当前车辆显示终端以供显示。3.根据权利要求1所述的方法，其中，所述基于所述检测关键点坐标序列，生成目标减速带关键点坐标，包括：获取与所述检测关键点坐标序列中各个检测关键点坐标对应的第一当前车辆相对位姿矩阵和第二当前车辆相对位姿矩阵序列，其中，所述第一当前车辆相对位姿矩阵是当前车辆的车体坐标系相对于相机坐标系的位姿矩阵，所述第二当前车辆相对位姿矩阵序列中的每个第二当前车辆相对位姿矩阵是当前车辆的车体坐标系相对于地图坐标系的位姿矩阵；基于所述检测关键点坐标序列、所述第一当前车辆相对位姿矩阵和所述第二当前车辆相对位姿矩阵序列，生成目标减速带关键点坐标，其中，所述目标减速带关键点坐标处于所述地图坐标系中。4.根据权利要求3所述的方法，其中，所述基于所述目标减速带关键点坐标，对所述滑动窗口中的各个道路图像进行车辆抖动检测，以生成车辆抖动检测信息，包括：基于所述第二当前车辆相对位姿矩阵序列，确定所述目标减速带关键点坐标相对于当前车辆车轮的齐次坐标序列；获取与所述滑动窗口中的各个道路图像对应的当前车辆俯仰角速度值，得到当前车辆俯仰角速度值序列；确定所述当前车辆俯仰角速度值序列中各个当前车辆俯仰角速度值的俯仰角速度均值和俯仰角速度标准差值；基于所述俯仰角速度均值和所述俯仰角速度标准差值，确定所述当前车辆俯仰角速度值序列中各个当前车辆俯仰角速度值对应的目标概率值；对于所述齐次坐标序列中的每个齐次坐标执行以下检测步骤：响应于确定所述齐次坐标和所述目标概率值满足预设选择条件，将满足所述齐次坐标对应的道路图像确定为抖动道路图像，以及将所述抖动道路图像添加至抖动道路图像序列；
对所述抖动道路图像进行关键点检测以生成图像静态关键点坐标组，以及将所述图像静态关键点坐标组添加至图像静态关键点坐标组序列。5.根据权利要求4所述的方法，其中，所述基于所述目标减速带关键点坐标，对所述滑动窗口中的各个道路图像进行车辆抖动检测，以生成车辆抖动检测信息，还包括：响应于确定所述齐次坐标和所述目标概率值不满足所述预设选择条件、以及所述齐次坐标与上一个满足所述预设选择条件的齐次坐标之间的帧数差大于预设帧数阈值，将与抖动道路图像序列中各个抖动道路图像对应的第二当前车辆相对位姿矩阵确定为当前车辆位姿矩阵，得到当前车辆位姿矩阵序列；将所述图像静态关键点坐标组序列和所述当前车辆位姿矩阵序列确定为车辆抖动检测信息；响应于确定所述齐次坐标和所述目标概率值不满足所述预设选择条件、以及所述齐次坐标与上一个满足所述预设选择条件的齐次坐标之间的帧数差小于等于预设帧数阈值，对所述齐次坐标的下一个齐次坐标继续执行所述检测步骤。6.根据权利要求4所述的方法，其中，所述对所述车辆抖动检测信息包括的图像静态关键点坐标组序列和对应的当前车辆位姿矩阵序列进行修正处理，以生成修正后位姿矩阵序列和修正后图像静态关键点坐标组序列，包括：获取与所述滑动窗口中各个道路图像对应的误差协方差矩阵、和除所述抖动道路图像序列中的各个抖动道路图像之外的各个道路图像对应的原始当前车辆位姿矩阵，得到误差协方差矩阵序列和原始当前车辆位姿矩阵序列；基于所述第一当前车辆相对位姿矩阵、所述第二当前车辆相对位姿矩阵序列、所述误差协方差矩阵序列和所述原始当前车辆位姿矩阵序列，对所述车辆抖动检测信息包括的图像静态关键点坐标组序列和对应的当前车辆位姿矩阵序列进行修正处理，以生成修正后位姿矩阵序列和修正后图像静态关键点坐标组序列。7.根据权利要求1-6之一所述的方法，其中，所述基于所述修正后位姿矩阵序列和所述修正后图像静态关键点坐标组序列，生成障碍物信息，包括：利用所述修正后位姿矩阵序列，将所述修正后图像静态关键点坐标组序列中的每个修正后图像静态关键点坐标组中的各个修正后图像静态关键点坐标转换至当前车辆的车体坐标系以生成转换后静态关键点坐标组，得到转换后静态关键点坐标组序列；将所述转换后静态关键点坐标组序列确定为障碍物信息。8.一种障碍物信息生成装置，包括：跟踪检测单元，被配置成响应于确定从预设的滑动窗口中的第一个道路图像中检测到减速带关键点坐标，对所述滑动窗口中的各个道路图像进行减速带关键点跟踪检测，以生成检测关键点坐标序列；第一生成单元，被配置成基于所述检测关键点坐标序列，生成目标减速带关键点坐标；车辆抖动检测单元，被配置成基于所述目标减速带关键点坐标，对所述滑动窗口中的各个道路图像进行车辆抖动检测，以生成车辆抖动检测信息，其中，所述车辆抖动检测信息包括：图像静态关键点坐标组序列和对应的当前车辆位姿矩阵序列；修正处理单元，被配置成对所述车辆抖动检测信息包括的图像静态关键点坐标组序列和对应的当前车辆位姿矩阵序列进行修正处理，以生成修正后位姿矩阵序列和修正后图像
静态关键点坐标组序列；第二生成单元，被配置成基于所述修正后位姿矩阵序列和所述修正后图像静态关键点坐标组序列，生成障碍物信息。9.一种电子设备，包括：一个或多个处理器；存储装置，其上存储有一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-7中任一所述的方法。10.一种计算机可读介质，其上存储有计算机程序，其中，所述计算机程序被处理器执行时实现如权利要求1-7中任一所述的方法。

技术总结
本公开的实施例公开了障碍物信息生成方法、装置、电子设备和计算机可读介质。该方法的一具体实施方式包括：对滑动窗口中的各个道路图像进行减速带关键点跟踪检测，以生成检测关键点坐标序列；基于检测关键点坐标序列，生成目标减速带关键点坐标；基于目标减速带关键点坐标，对滑动窗口中的各个道路图像进行车辆抖动检测，以生成车辆抖动检测信息；对车辆抖动检测信息包括的图像静态关键点坐标组序列和对应的当前车辆位姿矩阵序列进行修正处理，以生成修正后位姿矩阵序列和修正后图像静态关键点坐标组序列；基于修正后位姿矩阵序列和修正后图像静态关键点坐标组序列，生成障碍物信息。该实施方式可以提高生成的障碍物信息的准确度。确度。确度。


技术研发人员：胡禹超
受保护的技术使用者：禾多科技（北京）有限公司
技术研发日：2023.05.08
技术公布日：2023/9/12