面向算力网络的全光数据中心内业务部署方法及装置

未命名 09-15 阅读:118 评论:0


1.本发明涉及计算机技术领域,尤其涉及一种面向算力网络的全光数据中心内业务部署方法及装置。


背景技术:

2.随着元宇宙、ar/vr和机器学习等计算密集型业务的推广与应用,数据中心需要保障此类业务对算力资源即取即用,这也对数据中心的算力资源调度能力提出了更高的要求。在算力资源调度方面,传统网络采用通信与计算分离框架设计,只作为信息传输的管道,无法感知上层业务应用的需求,因而难以协同保障算力资源调度需求。为应对这一挑战,多种以通信与计算融合(通算融合)为核心的新技术、新名词被不断提出,推动网络从管道化的数据传输向“算力+连接”的新型基础设施的演进。通算融合的意图是将网络资源与计算资源融合,实现全局资源协同、路径编排、调度统一。
3.目前,根据应用技术,数据中心网络可以分为电交换、光电混合和全光数据中心网络。比较三种数据中心网络,全光数据中心网络则避免了电交换技术中的电子瓶颈,不仅可以将电交换和光电混合数据中心网络进行升级,还可以完全由光交换机构建,具有低能耗、高带宽和低延时的优势。
4.但已有大量关于全光数据中心网络控制方面的研究只聚焦于单播、多播和coflow等业务的调度,并没有考虑算力与网络协同的问题,缺乏相应的多维资源(算力+网络)的分配算法。并且,针对全光数据中心的网络控制技术的研究尚十分稀缺,特别是针对通算融合场景下波长交换网络控制技术研究几乎空白。


技术实现要素:

5.为此,本发明实施例提供了一种面向算力网络的全光数据中心内业务部署方法及装置,以解决密集型计算需求下的路由、波长和时隙分配(routing,wavelength,and time slot allocation,简称rwta)问题,探索保障算力资源调度的网络协同。
6.为了解决上述问题,本发明实施例提供一种面向算力网络的全光数据中心内业务部署方法,该方法包括:
7.s1:构建全光数据中心网络;
8.s2:在全光数据中心网络中,根据给定的密集型计算需求,生成密集型计算的业务序列,将业务序列添加到正在处理的业务队列中;
9.s3:构建算力波平面,采用基于算力波平面算法对业务进行部署,具体包括:
10.s31:构建[t,t+t]内全光数据中心网络的算力波平面ω1,ω2,

,ωn,更新链路占用情况、接收机发射机的占用情况、交换机端口配置情况以及更新服务器算力资源列表;
[0011]
s32:查找算力资源列表得到待选服务器d1,d2,

,dk;
[0012]
s33:对每一个待选服务器d1,d2,

,dk,扫描[t,t+t]内全光数据中心网络的算力波平面,选择最短路由r1,r2,

,rk,且扫描获得路由两端发射机和接收机的最早空闲时间
tx、tr,更新业务时间;
[0013]
s34:对服务器的算力资源和路由选择进行联合判优,得到最优的服务器记为目的服务器d以及对应的最短路由信息r和波长ω*;
[0014]
s35:扫描路由信息r经过的交换机端口的配置信息,确定是否需要重新配置,如果需要重配,将传输时间延长ts,其中ts为交换机端口重配时间,即令t=t+ts,部署业务;如果不要重配,则直接部署业务。
[0015]
优选地,还包括计算所有业务成功部署所需的总时间和业务平均等待时间,评估算力波平面算法的性能。
[0016]
优选地,所述全光数据中心网络由服务器、交换机组成。
[0017]
优选地,每个业务的计算需求表示为(s,d,t,r,t),其中s、d、t、r、t分别表示源服务器、业务的目标服务器、业务传输所需的时间、业务的初始路由、业务开始调度部署的时间。
[0018]
优选地,构建[t,t+t]内全光数据中心网络的算力波平面ω1,ω2,

,ωn,更新链路占用情况、接收机发射机的占用情况、交换机端口配置情况以及更新服务器算力资源列表的方法为:
[0019]
根据可使用的波长数n,构建[t,t+t]内全光数据中心网络的算力波平面ω1,ω2,

,ωn,根据时间存在交叉的已部署成功的业务,在业务对应的算力波平面上更新链路占用情况、接收机发射机的占用情况、交换机端口配置情况以及更新服务器算力资源列表。
[0020]
优选地,查找算力资源列表得到待选服务器d1,d2,

,dk的方法为:
[0021]
根据业务的默认部署时隙[t,t+t-1]查找算力资源列表,当前存在具有n个空闲算力资源的服务器,根据算法选择k个具有空闲算力资源的服务器,记为待选服务器d1,d2,

,dk,其中0《k《n。
[0022]
优选地,对每一个待选服务器d1,d2,

,dk,扫描[t,t+t]内全光数据中心网络的算力波平面,选择最短路由r1,r2,

,rk,且扫描获得路由两端发射机和接收机的最早空闲时间tx、tr,更新业务时间的方法为:
[0023]
根据业务源服务器s和待选服务器d1,d2,

,dk的信息,扫描算力波平面通过迪杰斯特拉算法,选择最短路由r1,r2,

,rk,且扫描获得路由两端发射机和接收机的最早空闲时间tx、tr,当路由两端同时存在可用的发射机和接收机时,设置t=max(tx,tr),更新业务时间。
[0024]
优选地,扫描路由信息r经过的交换机端口的配置信息,确定是否需要重新配置的方法为:
[0025]
扫描路由信息r经过的交换机端口的配置信息,根据交换机端口间是否配置过波长以及交换机是否具备重配能力,确定是否需要重新配置。
[0026]
本发明实施例还提供了一种面向算力网络的全光数据中心内业务部署装置,该装置包括:
[0027]
网络构建模块,用于构建全光数据中心网络;
[0028]
业务预处理模块,用于在全光数据中心网络中,根据给定的密集型计算需求,生成密集型计算的业务序列,将业务序列添加到正在处理的业务队列中;
[0029]
业务部署模块,用于构建算力波平面,采用基于算力波平面算法对业务进行部署,
具体包括:
[0030]
构建[t,t+t]内全光数据中心网络的算力波平面ω1,ω2,

,ωn,更新链路占用情况、接收机发射机的占用情况、交换机端口配置情况以及更新服务器算力资源列表;
[0031]
查找算力资源列表得到待选服务器d1,d2,

,dk;
[0032]
对每一个待选服务器d1,d2,

,dk,扫描[t,t+t]内全光数据中心网络的算力波平面,选择最短路由r1,r2,

,rk,且扫描获得路由两端发射机和接收机的最早空闲时间tx、tr,更新业务时间;
[0033]
对服务器的算力资源和路由选择进行联合判优,得到最优的服务器记为目的服务器d以及对应的最短路由信息r和波长ω*;
[0034]
扫描路由信息r经过的交换机端口的配置信息,确定是否需要重新配置,如果需要重配,将传输时间延长ts,其中ts为交换机端口重配时间,即令t=t+ts,部署业务;如果不要重配,则直接部署业务;
[0035]
性能评估模块,用于计算所有业务成功部署所需的总时间和业务平均等待时间,评估算力波平面算法的性能。
[0036]
本发明实施例还提供了一种计算机存储介质,所述计算机存储介质存储有计算机软件产品,所述计算机软件产品包括的若干指令,用以使得一台计算机设备执行上述任意一项所述的面向算力网络的全光数据中心内业务部署方法。
[0037]
从以上技术方案可以看出,本发明申请具有以下优点:
[0038]
本发明实施例提供一种面向算力网络的全光数据中心内业务部署方法及装置,本发明根据网络中服务器位置、交换机的实时端口配置信息、收发机和波长的数量对业务进行部署,有效的降低部署所有业务所需的总时间,以及缩短业务平均等待时延。
附图说明
[0039]
为了更清楚地说明本发明实施案例或现有技术中的技术方案,下边将对实施例中所需要使用的附图做简单说明,通过参考附图会更清楚的理解本发明的特征和优点,附图是示意性的而不应该理解为对本发明进行任何限制,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,可以根据这些附图获得其他的附图。其中:
[0040]
图1为根据实施例中提供的一种面向算力网络的全光数据中心内业务部署方法的流程图;
[0041]
图2为根据实施例中提供的一种面向算力网络的全光数据中心内业务部署装置的框图。
具体实施方式
[0042]
为使本发明实施例的目的、技术方案与优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
[0043]
实施例一
[0044]
如图1所示,本发明实施例提出一种面向算力网络的全光数据中心内业务部署方
法,该方法包括:
[0045]
s1:构建全光数据中心网络;
[0046]
s2:在全光数据中心网络中,根据给定的密集型计算需求,生成密集型计算的业务序列,将业务序列添加到正在处理的业务队列中;
[0047]
s3:构建算力波平面,采用基于算力波平面算法对业务进行部署,具体包括:
[0048]
s31:构建[t,t+t]内全光数据中心网络的算力波平面ω1,ω2,

,ωn,更新链路占用情况、接收机发射机的占用情况、交换机端口配置情况以及更新服务器算力资源列表;
[0049]
s32:查找算力资源列表得到待选服务器d1,d2,

,dk;
[0050]
s33:对每一个待选服务器d1,d2,

,dk,扫描[t,t+t]内全光数据中心网络的算力波平面,选择最短路由r1,r2,

,rk,且扫描获得路由两端发射机和接收机的最早空闲时间tx、tr,更新业务时间;
[0051]
s34:对服务器的算力资源和路由选择进行联合判优,得到最优的服务器记为目的服务器d以及对应的最短路由信息r和波长ω*;
[0052]
s35:扫描路由信息r经过的交换机端口的配置信息,确定是否需要重新配置,如果需要重配,将传输时间延长ts,其中ts为交换机端口重配时间,即令t=t+ts,部署业务;如果不要重配,则直接部署业务;
[0053]
s4:计算所有业务成功部署所需的总时间和业务平均等待时间,评估算力波平面算法的性能。
[0054]
本发明实施例提供一种面向算力网络的全光数据中心内业务部署方法,通过构建全光数据中心网络;在全光数据中心网络中,根据给定的密集型计算需求,生成密集型计算的业务序列,将业务序列添加到正在处理的业务队列中;构建算力波平面,采用基于算力波平面算法对业务进行部署。本发明根据网络中服务器位置、交换机的实时端口配置信息、收发机和波长的数量对业务进行部署,有效的降低部署所有业务所需的总时间,以及缩短业务平均等待时延。
[0055]
进一步地,构建全光数据中心网络。本实施例中全光数据中心网络由服务器、交换机组成。在全光数据中心网络中一共设置18个服务器,服务器的计算能力在区间[50tflops/s,500tflops/s]的范围内随机生成,此处的flops/s表示为每秒浮点运算数。
[0056]
进一步地,在全光数据中心网络中,根据给定的密集型计算需求,生成密集型计算的业务序列,将业务序列添加到正在处理的业务队列中。
[0057]
具体地,给定一组密集型计算需求,每个业务的计算需求都表示为(s,d,t,r,t),其中,s、d、t、r、t分别表示源服务器、业务的目标服务器、业务传输所需的时间、业务的初始路由、业务开始调度部署的时间。目的服务器、业务的路由、传输所需时间是由算法确定的。业务的初始路由一般预设为空,业务的目标服务器预设为空,业务开始部署的时间初始化为0时隙,在全光数据中心网络中的业务请求总数是固定的,并且业务传输所需的时间在[20,80]ms的范围内随机生成,业务的计算需求按比例在三个算力需求区间中随机产生,分别为[300gflpos,1000gflops],[1tgflops,20tflops],[20tflpos,100tflops],其中单位flops为浮点运算数。业务到达时间初始化为0ms。业务配置过程中不允许波长转换,因此每个光路都受波长连续性的约束。
[0058]
进一步地,构建算力波平面,采用基于算力波平面算法对业务进行部署。
[0059]
具体地,根据可使用的波长数n,构建[t,t+t]内全光数据中心网络的算力波平面ω1,ω2,

,ωn,根据时间存在交叉的已部署成功的业务,在业务对应的算力波平面上更新链路占用情况、接收机发射机的占用情况、交换机端口配置情况以及更新服务器算力资源列表。
[0060]
根据业务的默认部署时隙[t,t+t-1]查找算力资源列表,当前存在具有n个空闲算力资源的服务器,根据算法选择k个具有空闲算力资源的服务器,记为待选服务器d1,d2,

,dk,其中0《k《n。
[0061]
根据业务源服务器s和待选服务器d1,d2,

,dk的信息,扫描算力波平面通过迪杰斯特拉算法,选择最短路由r1,r2,

,rk,且扫描获得路由两端发射机和接收机的最早空闲时间tx、tr,当路由两端同时存在可用的发射机和接收机时,设置t=max(tx,tr),更新业务时间。
[0062]
对服务器的算力资源和路由选择进行联合判优,得到最优的服务器记为目的服务器d以及对应的最短路由信息r和波长ω*。
[0063]
扫描路由信息r经过的交换机端口的配置信息,根据交换机端口间是否配置过波长以及交换机是否具备重配能力,确定是否需要重新配置,如果需要重配,将传输时间延长ts,其中ts为交换机端口重配时间,即令t=t+ts,部署业务;如果不要重配,则直接部署业务。
[0064]
进一步地,计算所有业务成功部署所需的总时间和业务平均等待时间,评估算力波平面算法的性能。
[0065]
实施例二
[0066]
如图2所示,本发明提供一种面向算力网络的全光数据中心内业务部署装置,该装置包括:
[0067]
网络构建模块10,用于构建全光数据中心网络;
[0068]
业务预处理模块20,用于在全光数据中心网络中,根据给定的密集型计算需求,生成密集型计算的业务序列,将业务序列添加到正在处理的业务队列中;
[0069]
业务部署模块30,用于构建算力波平面,采用基于算力波平面算法对业务进行部署,具体包括:
[0070]
构建[t,t+t]内全光数据中心网络的算力波平面ω1,ω2,

,ωn,更新链路占用情况、接收机发射机的占用情况、交换机端口配置情况以及更新服务器算力资源列表;
[0071]
查找算力资源列表得到待选服务器d1,d2,

,dk;
[0072]
对每一个待选服务器d1,d2,

,dk,扫描[t,t+t]内全光数据中心网络的算力波平面,选择最短路由r1,r2,

,rk,且扫描获得路由两端发射机和接收机的最早空闲时间tx、tr,更新业务时间;
[0073]
对服务器的算力资源和路由选择进行联合判优,得到最优的服务器记为目的服务器d以及对应的最短路由信息r和波长ω*;
[0074]
扫描路由信息r经过的交换机端口的配置信息,确定是否需要重新配置,如果需要重配,将传输时间延长ts,其中ts为交换机端口重配时间,即令t=t+ts,部署业务;如果不要重配,则直接部署业务;
[0075]
性能评估模块40,用于计算所有业务成功部署所需的总时间和业务平均等待时
间,评估算力波平面算法的性能。
[0076]
所述系统,用以实现上述所述的面向算力网络的全光数据中心内业务部署方法,为了避免冗余,在此不再赘述。
[0077]
本发明实施例还提供了一种计算机存储介质,所述计算机存储介质存储有计算机软件产品,所述计算机软件产品包括的若干指令,用以使得一台计算机设备执行上述任意一项所述的面向算力网络的全光数据中心内业务部署方法。
[0078]
注意,上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解,本发明不限于这里所述的特定实施例,对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此,虽然通过以上实施例对本发明进行了较为详细的说明,但是本发明不仅仅限于以上实施例,在不脱离本发明构思的情况下,还可以包括更多其他等效实施例,而本发明的范围由所附的权利要求范围决定。
[0079]
本领域内的技术人员应明白,本技术的实施例可提供为方法、系统、或计算机程序产品。因此,本技术可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本技术可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、cd-rom、光学存储器等)上实施的计算机程序产品的形式。
[0080]
本技术是参照根据本技术实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
[0081]
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
[0082]
显然,上述实施例仅仅是为清楚地说明所作的举例,并非对实施方式的限定。对于所属领域的普通技术人员来说,在上述说明的基础上还可以做出其它不同形式变化或变动。这里无需也无法对所有的实施方式予以穷举。而由此所引申出的显而易见的变化或变动仍处于本发明创造的保护范围之中。

技术特征:
1.一种面向算力网络的全光数据中心内业务部署方法,其特征在于,包括:s1:构建全光数据中心网络;s2:在全光数据中心网络中,根据给定的密集型计算需求,生成密集型计算的业务序列,将业务序列添加到正在处理的业务队列中;s3:构建算力波平面,采用基于算力波平面算法对业务进行部署,具体包括:s31:构建[t,t+t]内全光数据中心网络的算力波平面ω1,ω2,


n
,更新链路占用情况、接收机发射机的占用情况、交换机端口配置情况以及更新服务器算力资源列表;s32:查找算力资源列表得到待选服务器d1,d2,

,d
k
;s33:对每一个待选服务器d1,d2,

,d
k
,扫描[t,t+t]内全光数据中心网络的算力波平面,选择最短路由r1,r2,

,r
k
,且扫描获得路由两端发射机和接收机的最早空闲时间tx、tr,更新业务时间;s34:对服务器的算力资源和路由选择进行联合判优,得到最优的服务器记为目的服务器d以及对应的最短路由信息r和波长ω*;s35:扫描路由信息r经过的交换机端口的配置信息,确定是否需要重新配置,如果需要重配,将传输时间延长ts,其中ts为交换机端口重配时间,即令t=t+ts,部署业务;如果不要重配,则直接部署业务。2.根据权利要求1所述的面向算力网络的全光数据中心内业务部署方法,其特征在于,还包括计算所有业务成功部署所需的总时间和业务平均等待时间,评估算力波平面算法的性能。3.根据权利要求1所述的面向算力网络的全光数据中心内业务部署方法,其特征在于,所述全光数据中心网络由服务器、交换机组成。4.根据权利要求1所述的面向算力网络的全光数据中心内业务部署方法,其特征在于,每个业务的计算需求表示为(s,d,t,r,t),其中,s、d、t、r、t分别表示源服务器、业务的目标服务器、业务传输所需的时间、业务的初始路由、业务开始调度部署的时间。5.根据权利要求1所述的面向算力网络的全光数据中心内业务部署方法,其特征在于,构建[t,t+t]内全光数据中心网络的算力波平面ω1,ω2,


n
,更新链路占用情况、接收机发射机的占用情况、交换机端口配置情况以及更新服务器算力资源列表的方法为:根据可使用的波长数n,构建[t,t+t]内全光数据中心网络的算力波平面ω1,ω2,


n
,根据时间存在交叉的已部署成功的业务,在业务对应的算力波平面上更新链路占用情况、接收机发射机的占用情况、交换机端口配置情况以及更新服务器算力资源列表。6.根据权利要求1所述的面向算力网络的全光数据中心内业务部署方法,其特征在于,查找算力资源列表得到待选服务器d1,d2,

,d
k
的方法为:根据业务的默认部署时隙[t,t+t-1]查找算力资源列表,当前存在具有n个空闲算力资源的服务器,根据算法选择k个具有空闲算力资源的服务器,记为待选服务器d1,d2,

,d
k
,其中0<k<n。7.根据权利要求1所述的面向算力网络的全光数据中心内业务部署方法,其特征在于,对每一个待选服务器d1,d2,

,d
k
,扫描[t,t+t]内全光数据中心网络的算力波平面,选择最短路由r1,r2,

,r
k
,且扫描获得路由两端发射机和接收机的最早空闲时间tx、tr,更新业务时间的方法为:
根据业务源服务器s和待选服务器d1,d2,

,d
k
的信息,扫描算力波平面通过迪杰斯特拉算法,选择最短路由r1,r2,

,r
k
,且扫描获得路由两端发射机和接收机的最早空闲时间tx、tr,当路由两端同时存在可用的发射机和接收机时,设置t=max(tx,tr),更新业务时间。8.根据权利要求1所述的面向算力网络的全光数据中心内业务部署方法,其特征在于,扫描路由信息r经过的交换机端口的配置信息,确定是否需要重新配置的方法为:扫描路由信息r经过的交换机端口的配置信息,根据交换机端口间是否配置过波长以及交换机是否具备重配能力,确定是否需要重新配置。9.一种面向算力网络的全光数据中心内业务部署装置,其特征在于,包括:网络构建模块,用于构建全光数据中心网络;业务预处理模块,用于在全光数据中心网络中,根据给定的密集型计算需求,生成密集型计算的业务序列,将业务序列添加到正在处理的业务队列中;业务部署模块,用于构建算力波平面,采用基于算力波平面算法对业务进行部署,具体包括:构建[t,t+t]内全光数据中心网络的算力波平面ω1,ω2,


n
,更新链路占用情况、接收机发射机的占用情况、交换机端口配置情况以及更新服务器算力资源列表;查找算力资源列表得到待选服务器d1,d2,

,d
k
;对每一个待选服务器d1,d2,

,d
k
,扫描[t,t+t]内全光数据中心网络的算力波平面,选择最短路由r1,r2,

,r
k
,且扫描获得路由两端发射机和接收机的最早空闲时间tx、tr,更新业务时间;对服务器的算力资源和路由选择进行联合判优,得到最优的服务器记为目的服务器d以及对应的最短路由信息r和波长ω*;扫描路由信息r经过的交换机端口的配置信息,确定是否需要重新配置,如果需要重配,将传输时间延长ts,其中ts为交换机端口重配时间,即令t=t+ts,部署业务;如果不要重配,则直接部署业务;性能评估模块,用于计算所有业务成功部署所需的总时间和业务平均等待时间,评估算力波平面算法的性能。10.一种计算机存储介质,其特征在于,所述计算机存储介质存储有计算机软件产品,所述计算机软件产品包括的若干指令,用以使得一台计算机设备执行权利要求1至8任意一项所述的面向算力网络的全光数据中心内业务部署方法。

技术总结
本发明提供一种面向算力网络的全光数据中心内业务部署方法及装置,该方法包括构建全光数据中心网络;在全光数据中心网络中,根据给定的密集型计算需求,生成密集型计算的业务序列,将业务序列添加到正在处理的业务队列中;构建算力波平面,采用基于算力波平面算法对业务进行部署,计算所有业务成功部署所需的总时间和业务平均等待时间,评估算力波平面算法的性能。本发明提供的面向算力网络的全光数据中心内业务部署方法,可以根据网络中服务器位置、交换机的实时端口配置信息、收发机和波长的数量对业务进行部署,有效的降低部署所有业务所需的总时间,以及缩短业务平均等待时延。延。延。


技术研发人员:李泳成 黄婷婷 沈纲祥 傅奕阳
受保护的技术使用者:苏州大学
技术研发日:2023.05.23
技术公布日:2023/9/14
版权声明

本文仅代表作者观点,不代表航家之家立场。
本文系作者授权航家号发表,未经原创作者书面授权,任何单位或个人不得引用、复制、转载、摘编、链接或以其他任何方式复制发表。任何单位或个人在获得书面授权使用航空之家内容时,须注明作者及来源 “航空之家”。如非法使用航空之家的部分或全部内容的,航空之家将依法追究其法律责任。(航空之家官方QQ:2926969996)

航空之家 https://www.aerohome.com.cn/

飞机超市 https://mall.aerohome.com.cn/

航空资讯 https://news.aerohome.com.cn/

分享:

扫一扫在手机阅读、分享本文

相关推荐