AI推理方法、系统和计算机可读存储介质与流程

ai推理方法、系统和计算机可读存储介质
技术领域
1.本发明实施例涉及但不限于网络设备ai人工智能领域，特别是涉及一种ai推理方法、 系统和计算机可读存储介质。


背景技术：

2.在5g时代，万物互联网络复杂化，原有的静态人工管理方法不再适用，运营商和网络设 备厂家都在推动ai在通信领域中发挥巨大的价值，充分利用大数据信息，实现智能的网络管 理，如智能节能，智能运维，网络安全等方向，其中通信网元设备智能化成为发展的重点。
3.通信网元设备每时每刻产生海量的动态数据，包括动态性能数据，告警，日志等几类信 息，从数据来源角度又分为网络处理器、tm、线卡、交换网、cpu等不同的硬件单元；从信 息的时间特性上，又分为时间可变信息和静态不变信息(比如硬件一些固定信息)，时间可变 性能统计数据主要是转发芯片实时产生的流量统计信息，具有典型的时间序列特征，不同的 ai应用均是建立在对数据进行分析和预测基础上，都会涉及到数据样本的采集，融合管理， ai推理以及训练和学习等共性流程。
4.对于通信网元设备，目前业界缺少ai推理应用实现，ai应用比较单一，实现上针对具 体的智能终端设备为ai推理定制专有的软硬件架构，设计专有的数据采集通道和数据管理模 型，ai推理架构与数据特征强耦合，但是对于通信网元设备，不同ai应用关注的数据并不 能直接得到，需要对不同空间维度和不同时间维度的特征数据进行融合，因此应用专有的ai 推理架构存在扩展性问题，无法满足通信网元设备上不同ai应用的灵活扩展。


技术实现要素：

5.以下是对本文详细描述的主题的概述。本概述并非是为了限制权利要求的保护范围。
6.本发明实施例提供了一种ai推理方法、系统和计算机可读存储介质，能够支持通信网元 设备在不同ai应用的灵活扩展。
7.第一方面，本发明实施例提供了一种ai推理方法，应用于ai推理系统的系统主控，所 述系统主控连接分布式线卡，所述方法包括：
8.获取所述分布式线卡的推理结果，所述推理结果由所述分布式线卡对获取的性能数据进 行第一级推理而得到；
9.根据所述推理结果进行第二级推理，得到全局推理结果。
10.第二方面，本发明实施例提供了一种ai推理方法，应用于ai推理系统的分布式线卡， 所述分布式线卡连接系统主控，所述方法包括：
11.从不同的数据采集器获取性能数据；
12.对所述性能数据进行第一级推理，得到推理结果；
13.推送所述推理结果给系统主控，以使所述系统主控根据所述推理结果进行第二级
推理， 得到全局推理结果。
14.第三方面，本发明实施例提供了一种系统主控，所述系统主控连接分布式线卡，所述系 统主控包括：
15.主控ai数据管理单元，用于获取所述分布式线卡的推理结果，其中，所述推理结果由所 述分布式线卡对获取的性能数据进行第一级推理而得到；
16.主控ai推理单元，用于根据所述推理结果进行第二级推理，得到全局推理结果。
17.第四方面，本发明实施例提供了一种分布式线卡，所述分布式线卡连接系统主控，所述 分布式线卡包括：
18.线卡ai数据管理单元，用于从不同的数据采集器获取性能数据；
19.线卡ai推理单元，用于对所述性能数据进行第一级推理，得到推理结果，并推送所述推 理结果给系统主控，以使所述系统主控根据所述推理结果进行第二级推理，得到全局推理结 果。
20.第五方面，本发明实施例提供了一种ai推理系统，包括如上第三方面所述的系统主控和 如上第四方面所述的分布式线卡。
21.第六方面，本发明实施例提供了一种计算机可读存储介质，所述计算机可读存储介质存 储有计算机可执行程序，所述计算机可执行程序用于使计算机执行如上第一方面所述的ai推 理方法，，或者如上第二方面所述的ai推理方法。
22.本发明实施例包括：ai推理系统包括系统主控和分布式线卡，系统主控获取分布式线卡 的推理结果，推理结果由分布式线卡对获取的性能数据进行第一级推理而得到；根据推理结 果进行第二级推理，得到全局推理结果。基于此，通过采用系统主控和分布式线卡两级ai推 理架构，ai应用可以像插件一样灵活扩展，在分布式线卡具有进行初步的第一级ai推理功 能，系统主控具有进行全局的第二级ai推理功能，以提升ai推理系统整体的分布式ai计算 能力，同时实现和ai应用解耦的ai推理系统，有效的提升多种ai应用的系统集成能力，因 此，本发明能够支持通信网元设备在不同ai应用的灵活扩展。
23.本发明的其它特征和优点将在随后的说明书中阐述，并且，部分地从说明书中变得显而 易见，或者通过实施本发明而了解。本发明的目的和其他优点可通过在说明书、权利要求书 以及附图中所特别指出的结构来实现和获得。
附图说明
24.附图用来提供对本发明技术方案的进一步理解，并且构成说明书的一部分，与本发明的 实施例一起用于解释本发明的技术方案，并不构成对本发明技术方案的限制。
25.图1是本发明一个实施例提供的一种ai推理方法的主流程图(系统主控侧)；
26.图2是本发明一个实施例提供的通信网元设备ai推理系统结构示意图；
27.图3是本发明一个实施例提供的通信网元设备与云端管控服务器ai训练学习结构示意图；
28.图4是本发明一个实施例提供的一种ai推理方法的一子流程图；
29.图5是本发明一个实施例提供的一种ai推理方法的另一子流程图；
30.图6是本发明一个实施例提供的一种ai推理方法的主流程图(分布式线卡侧)；
31.图7是本发明一个实施例提供的一种ai推理方法的一子流程图；
32.图8是本发明一个实施例提供的一种ai推理方法的另一子流程图。
具体实施方式
33.为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发 明进行进一步详细说明。应当理解，此处所描述的具体实施例仅用以解释本发明，并不用于 限定本发明。
34.应了解，在本发明实施例的描述中，多个(或多项)的含义是两个以上，大于、小于、 超过等理解为不包括本数，以上、以下、以内等理解为包括本数。如果有描述到“第一”、“第 二”等只是用于区分技术特征为目的，而不能理解为指示或暗示相对重要性或者隐含指明所 指示的技术特征的数量或者隐含指明所指示的技术特征的先后关系。
35.在5g时代，万物互联网络复杂化，原有的静态人工管理方法不再适用，运营商和网络设 备厂家都在推动ai在通信领域中发挥巨大的价值，充分利用大数据信息，实现智能的网络管 理，如智能节能，智能运维，网络安全等方向，其中通信网元设备智能化成为发展的重点。
36.通信网元设备每时每刻产生海量的动态数据，包括动态性能数据，告警，日志等几类信 息，从数据来源角度又分为网络处理器、tm、线卡、交换网、cpu等不同的硬件单元；从信 息的时间特性上，又分为时间可变信息和静态不变信息(比如硬件一些固定信息)，时间可变 性能统计数据主要是转发芯片实时产生的流量统计信息，具有典型的时间序列特征，不同的 ai应用均是建立在对数据进行分析和预测基础上，都会涉及到数据样本的采集，融合管理， ai推理以及训练和学习等共性流程。
37.对于通信网元设备，目前业界缺少ai推理应用实现，ai应用比较单一，实现上针对具 体的智能终端设备为ai推理定制专有的软硬件架构，设计专有的数据采集通道和数据管理模 型，ai推理架构与数据特征强耦合，但是对于通信网元设备，不同ai应用关注的数据并不 能直接得到，需要对不同空间维度和不同时间维度的特征数据进行融合，因此应用专有的ai 推理架构存在扩展性问题，无法满足通信网元设备上不同ai应用的灵活扩展。
38.针对现有技术存在侧重于ai细分方向的解决方案，没有从系统架构上提供统一的ai数 据采集与管理方案，无法支持不同ai应用的灵活扩展的问题，本发明实施例提供了一种ai 推理方法、系统和计算机可读存储介质,ai推理系统包括系统主控和分布式线卡，系统主控 获取分布式线卡的推理结果，推理结果由分布式线卡对获取的性能数据进行第一级推理而得 到；根据推理结果进行第二级推理，得到全局推理结果。基于此，通过采用系统主控和分布 式线卡两级ai推理架构，ai应用可以像插件一样灵活扩展，在分布式线卡具有进行初步的 第一级ai推理功能，系统主控具有进行全局的第二级ai推理功能，以提升ai推理系统整体 的分布式ai计算能力，同时实现和ai应用解耦的ai推理系统，有效的提升多种ai应用的 系统集成能力，因此，本发明能够支持通信网元设备在不同ai应用的灵活扩展。
39.如图1所示，图1是本发明一个实施例提供的一种ai推理方法的流程图。ai推理方法 应用于ai推理系统的系统主控，系统主控连接分布式线卡，ai推理方法包括但不限于如下 步骤：
40.步骤101，获取分布式线卡的推理结果，推理结果由分布式线卡对获取的性能数据进行 第一级推理而得到；
41.步骤102，根据推理结果进行第二级推理，得到全局推理结果。
42.可以理解的是，由分布式线卡对获取的性能数据进行第一级推理得到推理结果，系统主 控获取分布式线卡的推理结果，系统主控可以再根据推理结果进行第二级推理，得到全局推 理结果。基于此，通过采用系统主控和分布式线卡两级ai推理架构，ai应用可以像插件一 样灵活扩展，在分布式线卡具有进行初步的第一级ai推理功能，系统主控具有进行全局的第 二级ai推理功能，以提升ai推理系统整体的分布式ai计算能力，同时实现和ai应用解耦 的ai推理系统，有效的提升多种ai应用的系统集成能力，因此，本发明能够支持通信网元 设备在不同ai应用的灵活扩展。
43.可以理解的是，ai推理系统包括系统主控和分布式线卡，且在分布式线卡具有进行初步 的第一级ai推理功能，在系统主控具有进行全局的第二级ai推理功能。因此，架构上可以 在分布式线卡设置第一级推理单元，在系统主控设置第二级推理单元，此外，还可以在分布 式线卡设置线卡ai数据管理单元，在系统主控设置主控ai数据管理单元，以分别处理不同 类型ai应用数据采集和管理。
44.可以理解的是，对于通信网元设备，性能数据种类众多，来源众多。ai数据管理单元可 以采用订阅方式采集性能数据。本发明主要采集如下性能数据：
45.(1)网络处理器统计信息：包括端口收发速率，端口不同字节长度报文速率，tcp、udp 以及icmp等报文变化速率，np异常丢包统计。
46.(2)tm队列统计信息：包括队列深度变化统计，队列转发报文速率，队列丢弃报文速 率。
47.(3)流统计信息：tcp syn、ack、fin以及rst报文变化速率。
48.(4)告警日志统计：包括软件写转发表错误告警，np芯片寄存器异常告警，协议交互 异常告警以及关键事件日志。
49.其中，采集性能数据特征如下表所示：
50.订阅数据集说明data id在ai数据采集管理单元注册的数据类型iddate数据采集日期time数据采集时间，1588同步ptp时间格式period数据采样周期，支持秒，毫秒级别slot单板，槽位信息信息sourcetype数据源类型(np、tm，acl，告警日志等)entity id数据实体id(接口，队列，acl，告警日志id等)feature_1特征值，采用tlv格式... feature_n特征值，采用tlv格式
51.可以理解的是，可以在系统主控设置主控ai应用管理单元，用于ai应用注册。ai应用 需求采用注册化流程，主控ai应用管理单元采用注册方式向主控ai数据管理单元注册ai应 用的数据处理需求，主控ai数据管理单元根据ai应用的注册信息确定注册源，时空数据特 征集，周期融合方式，模板化的pipeline特征工程处理流程等，ai应用注册详细信息如下 表所示：
[0052][0053][0054]
其中，action type主要是说明对数据采用何种类型的预处理动作，可以包括如下特征 工程预处理动作：
[0055]
(1)缺失值处理操作：对特定样本的特征设置数据缺失时的动作，丢弃，平均值，邻近 值填充等。
[0056]
(2)数据规约操作：对不同尺度的特征进行数据规约，0-1方式或者方差规约等。
[0057]
(3)数据子集动作：对特定采集数据，只选择指定特征集，满足ai应用要求。
[0058]
(3)数据并集动作：将多个不同类型的样本数据按照时间序列合并，满足ai应用要求。
[0059]
(4)特征数学操作：对特定的特征进行数学变换操作，满足ai应用的数据要求。
[0060]
(5)数据统计操作：对数据按照特定的周期进行模拟量统计计算。
[0061]
(6)时间融合方式：对于不同周期的数据融合动作，主要是不同数据合并时，需要确定 如何对齐时间，包括向下时间对齐(取大周期上一次数据)，向上对齐(取大周期下一次数据) 等。
[0062]
可以理解的是，如图2所示，本发明通过ai应用注册机制和数据订阅机制，实现基于通 用数据管理平台的分布式ai推理架构，详细步骤描述如下：
[0063]
步骤一：通信网元设备上分布式线卡与主控开启数据管理平台，通过订阅方式访问不同 类型的性能数据采集器，不同性能采集器按照自身周期特性向数据管理平台推送实时数据。
[0064]
步骤二：主控ai应用管理单元根据ai应用的特点确定推理模式，即系统主控全局ai推 理和线卡ai推理，同时确定ai应用数据的订阅和注册流程。
[0065]
步骤三：数据管理单元接收ai应用向数据管理平台注册应用处理需求，包括关注的特征 集范围，融合方式，特征预处理，特征工程等，数据管理平台按照pipeline模式编排处理流 程。
[0066]
步骤四：数据管理平台对收到的性能数据按照时间序列进行本地存储，同时按照不同ai 应用注册的数据处理需求进行pipeline流程处理，将加工后的实时数据推送到线卡ai推理 单元进行ai推理。
[0067]
步骤五：线卡ai推理单元根据ai推理的结果，结合ai应用执行相关的动作，其中包括 线卡ai推理结果推送系统主控进行二级推理。
[0068]
可以理解的是，当主控ai数据管理单元满足推理条件时，将实时数据推送到主控ai推 理单元进行推理，这样ai应用像插件一样可以灵活扩展，ai推理只关注自身的算法和性能， 和数据相关的部分由平台提供能力。
[0069]
可以理解的是，当ai应用需要系统主控综合所有分布式线卡的数据进行全局推理时，为 了降低主控数据处理的负荷，提高系统主控ai推理的实时性能，本发明采用了两级ai推理 架构，分布式线卡完成初步的一级ai推理功能，只有当满足全局推理条件时，分布式线卡的 一级推理结果才送到系统主控进行全局二级推理。
[0070]
可以理解的是，具体的主控ai数据管理单元向线卡ai推理单元进行订阅数据，分布式 线卡完成第一级ai推理，其结果作为系统主控第二级ai推理的数据输入。
[0071]
可以理解的是，同时为了提高主控数据处理能力，主控ai数据管理单元也可以向线卡 ai数据管理单元订阅数据，即分布式线卡不会直接将原始数据送到系统主控，而是先对采集 到数据先进行特征工程预处理，将加工后的数据送到主控ai数据管理单元进行相应处理。
[0072]
需要说明的是，如图3所示，通信网元设备主要实现ai推理，对于ai模型的训练和学 习还可以由云端管控服务器实现，通信网元设备将实时的原始数据通过telemetry网络遥测 通道发送到云端管控服务器，云端管控服务器进行ai训练和学习，并将训练好的模型参数下 发到通信网元设备实现ai推理。
[0073]
如图4所示，系统主控包括主控ai应用管理单元，在步骤101之前可以包括但不限于如 下子步骤：
[0074]
步骤401，主控ai应用管理单元发布ai应用；
[0075]
步骤402，主控ai应用管理单元向分布式线卡进行应用注册，以确定应用注册信息。
[0076]
可以理解的是，主控ai应用管理单元根据ai应用的特点确定推理模式，即系统主控全 局ai推理和线卡ai推理，同时确定ai应用数据的订阅和注册流程。例如，主控ai应用管 理单元发布ai抗ddos攻击应用，并向线卡ai数据管理单元进行应用注册，抗ddos攻击主 要通过ai分析网络流量统计变化识别异常攻击类型，因此注册信息中数据类型包括端口上下 行tcpsyn/ack/fin/rst报文变化速率，端口新增源ip变化速率，端口上行总速率，以及需 要对齐流量周期，数据清洗和预处理方式等，注册源为线卡ai推理单元。
[0077]
如图5所示，系统主控包括主控ai数据管理单元和主控ai推理单元，在步骤101之后 可以包括但不限于如下子步骤：
[0078]
步骤501，主控ai数据管理单元从分布式线卡查询应用注册信息；
[0079]
步骤502，主控ai数据管理单元根据应用注册信息对推理结果进行预处理，得到预处理 数据，其中，预处理包括特征工程预处理；
[0080]
步骤503，主控ai数据管理单元将预处理数据推送到主控ai推理单元。
[0081]
可以理解的是，主控ai数据管理单元从分布式线卡查询应用注册信息，主控ai数据管 理单元根据应用注册信息对推理结果进行预处理，以满足ai应用的数据要求。其中，预处理 包括特征工程预处理，特征工程预处理可以包括如下动作：
[0082]
(1)缺失值处理操作：对特定样本的特征设置数据缺失时的动作，丢弃，平均值，邻近 值填充等。
[0083]
(2)数据规约操作：对不同尺度的特征进行数据规约，0-1方式或者方差规约等。
[0084]
(3)数据子集动作：对特定采集数据，只选择指定特征集，满足ai应用要求。
[0085]
(3)数据并集动作：将多个不同类型的样本数据按照时间序列合并，满足ai应用要求。
[0086]
(4)特征数学操作：对特定的特征进行数学变换操作，满足ai应用的数据要求。
[0087]
(5)数据统计操作：对数据按照特定的周期进行模拟量统计计算。
[0088]
(6)时间融合方式：对于不同周期的数据融合动作，主要是不同数据合并时，需要确定 如何对齐时间，包括向下时间对齐(取大周期上一次数据)，向上对齐(取大周期下一次数据) 等。
[0089]
当预处理数据满足全局推理条件时，主控ai数据管理单元将预处理数据推送到主控ai 推理单元进行相应处理，以进行全局二级推理。
[0090]
可以理解的是，在得到全局推理结果之后，系统主控可以根据全局推理结果执行与全局 推理结果相对应的动作。
[0091]
可以理解的是，主控ai数据管理单元可以通过订阅方式从分布式线卡接收推理结果。
[0092]
如图6所示，图6是本发明一个实施例提供的一种ai推理方法的流程图。ai推理方法 应用于ai推理系统的分布式线卡，分布式线卡连接系统主控，ai推理方法包括但不限于如 下步骤：
[0093]
步骤601，从不同的数据采集器获取性能数据；
[0094]
步骤602，对性能数据进行第一级推理，得到推理结果；
[0095]
步骤603，推送推理结果给系统主控，以使系统主控根据推理结果进行第二级推理，得 到全局推理结果。
[0096]
可以理解的是，如图2所示，分布式线卡从不同的数据采集器获取性能数据，数据采集 器的类型包括但不限于用户流统计采集器、tm队列统计采集器、port流量数据采集器、np 芯片状态数据采集器和芯片异常数据采集器。分布式线卡对性能数据进行第一级推理，得到 推理结果。分布式线卡再推送推理结果给系统主控，以使系统主控根据推理结果进行第二级 推理，得到全局推理结果。基于此，通过采用系统主控和分布式线卡两级ai推理架构，ai 应用可以像插件一样灵活扩展，在分布式线卡具有进行初步的第一级ai推理功能，系统主控 具有进行全局的第二级ai推理功能，以提升ai推理系统整体的分布式ai计算能力，同时实 现和ai应用解耦的ai推理系统，有效的提升多种ai应用的系统集成能力，因此，本发明能 够支持通信网元设备在不同ai应用的灵活扩展。
[0097]
如图7所示，步骤601可以包括但不限于如下子步骤：
[0098]
步骤701，通过订阅方式从不同的数据采集器定时采集性能数据；
[0099]
步骤702，对性能数据按照数量类型和时间序列进行缓存处理。
[0100]
可以理解的是，线卡ai数据管理单元通过订阅方式，订阅线卡不同数据采集器实时性能 数据的推送消息，实现原始数据的采集与管理。不同数据采集器根据各自设置定时采集数据， 将实时数据同步发送到的线卡ai数据管理单元，线卡ai数据管理单元对数据根据数量类型 和时间序列进行缓存处理。
[0101]
可以理解的是，ai推理系统包括系统主控和分布式线卡，且在分布式线卡具有进
行初步 的第一级ai推理功能，在系统主控具有进行全局的第二级ai推理功能。因此，架构上可以 在分布式线卡设置第一级推理单元，在系统主控设置第二级推理单元，此外，还可以在分布 式线卡设置线卡ai数据管理单元，在系统主控设置主控ai数据管理单元，以分别处理不同 类型ai应用数据采集和管理。
[0102]
可以理解的是，线卡ai数据管理单元在对所述性能数据进行第一级推理，得到推理结果 之前，还包括查询应用注册信息，所述应用注册信息由所述系统主控向所述分布式线卡进行 应用注册而得到。
[0103]
如图8所示，步骤602可以包括但不限于如下子步骤：
[0104]
步骤801，线卡ai数据管理单元根据应用注册信息对性能数据进行预处理，得到预处理 数据，其中，预处理包括特征工程预处理；
[0105]
步骤802，线卡ai数据管理单元将预处理数据推送到线卡ai推理单元；
[0106]
步骤803，线卡ai推理单元对预处理数据进行第一级推理，得到推理结果。
[0107]
可以理解的是，线卡ai数据管理单元根据应用注册信息对性能数据进行预处理，得到预 处理数据，其中，预处理包括特征工程预处理，特征工程预处理可以包括如下动作：
[0108]
(1)缺失值处理操作：对特定样本的特征设置数据缺失时的动作，丢弃，平均值，邻近 值填充等。
[0109]
(2)数据规约操作：对不同尺度的特征进行数据规约，0-1方式或者方差规约等。
[0110]
(3)数据子集动作：对特定采集数据，只选择指定特征集，满足ai应用要求。
[0111]
(3)数据并集动作：将多个不同类型的样本数据按照时间序列合并，满足ai应用要求。
[0112]
(4)特征数学操作：对特定的特征进行数学变换操作，满足ai应用的数据要求。
[0113]
(5)数据统计操作：对数据按照特定的周期进行模拟量统计计算。
[0114]
(6)时间融合方式：对于不同周期的数据融合动作，主要是不同数据合并时，需要确定 如何对齐时间，包括向下时间对齐(取大周期上一次数据)，向上对齐(取大周期下一次数据) 等。
[0115]
当预处理数据满足推理条件后，线卡ai数据管理单元将预处理数据推送到线卡ai推理 单元，线卡ai推理单元对预处理数据进行第一级推理，得到推理结果。
[0116]
以下结合附图和具体实施例进一步介绍本发明提供的ai推理方法。
[0117]
如图2所示，以通过ai实现抗ddos攻击为例，对应实现ai推理的步骤如下：
[0118]
a.系统初始化时开启线卡和主控数据采集器，线卡ai数据管理单元和主控ai数据管理 单元，主控ai应用管理单元，线卡ai推理单元与主控ai推理单元，各个单元模块之间独立 运行。
[0119]
b.线卡ai数据管理单元通过订阅方式，订阅线卡不同数据采集器实时性能数据的推送消 息，实现原始数据的采集与管理。
[0120]
c.ai应用管理单元发布ai抗ddos攻击应用，并向线卡ai数据管理单元进行应用注册， 抗ddos攻击主要通过ai分析网络流量统计变化识别异常攻击类型，因此注册信息中数据类 型包括端口上下行tcp syn/ack/fin/rst报文变化速率，端口新增源ip变化速率，端口上行 总速率，以及需要对齐流量周期，数据清洗和预处理方式等，注册源为线卡ai推理单元。
[0121]
d.主控ai数据管理单元向线卡ai推理单元订阅线卡推理结果，线卡完成第一级初步的 ai推理，当线卡ai推理是ddos攻击流量后，线卡ai推理单元将推理结果送到主控数据管 理单元，由主控综合不同线卡推理结果做出最终ai推理。
[0122]
e.不同数据采集器根据各自设置定时采集数据，将实时数据同步发送到的线卡ai数据管 理单元，ai数据管理单元对数据根据数量类型和时间序列进行缓存处理。
[0123]
f.线卡ai数据管理单元收到采集器发送的实时数据更新后，查询ai抗ddos攻击的注册 信息，对采集到的原始数据记进行pipeline处理，数据满足推理条件后，将数据送到线卡 ai推理单元进行推理。
[0124]
g.线卡ai推理单元根据推理结果，执行对应动作，将推理结果通过实时消息发送到主控 ai数据管理单元。
[0125]
h.主控ai数据管理单元收到线卡ai推理结果，查询ai抗ddos攻击的注册信息，对采 集到的原始数据进行相应的pipeline处理，将处理后的实时数据推送到主控ai推理单元进 行二级全局推理。
[0126]
i.主控ai推理单元根据推理结果，判断异常攻击类型，执行相应的动作行为。
[0127]
本发明实施例还提供了一种系统主控，系统主控连接分布式线卡，系统主控包括：
[0128]
主控ai数据管理单元，用于获取分布式线卡的推理结果，其中，推理结果由分布式线卡 对获取的性能数据进行第一级推理而得到；
[0129]
主控ai推理单元，用于根据推理结果进行第二级推理，得到全局推理结果。可以理解的 是，由分布式线卡对获取的性能数据进行第一级推理得到推理结果，系统主控获取分布式线 卡的推理结果，系统主控可以再根据推理结果进行第二级推理，得到全局推理结果。基于此， 通过采用系统主控和分布式线卡两级ai推理架构，ai应用可以像插件一样灵活扩展，在分 布式线卡具有进行初步的第一级ai推理功能，系统主控具有进行全局的第二级ai推理功能， 以提升ai推理系统整体的分布式ai计算能力，同时实现和ai应用解耦的ai推理系统，有 效的提升多种ai应用的系统集成能力，因此，本发明能够支持通信网元设备在不同ai应用 的灵活扩展。
[0130]
本发明实施例还提供了一种分布式线卡，分布式线卡连接系统主控，分布式线卡包括：
[0131]
线卡ai数据管理单元，用于从不同的数据采集器获取性能数据；
[0132]
线卡ai推理单元，用于对性能数据进行第一级推理，得到推理结果，并推送推理结果给 系统主控，以使系统主控根据推理结果进行第二级推理，得到全局推理结果。
[0133]
可以理解的是，分布式线卡从不同的数据采集器获取性能数据，数据采集器的类型包括 但不限于用户流统计采集器、tm队列统计采集器、port流量数据采集器、np芯片状态数据 采集器和芯片异常数据采集器。分布式线卡对性能数据进行第一级推理，得到推理结果。分 布式线卡再推送推理结果给系统主控，以使系统主控根据推理结果进行第二级推理，得到全 局推理结果。基于此，通过采用系统主控和分布式线卡两级ai推理架构，ai应用可以像插 件一样灵活扩展，在分布式线卡具有进行初步的第一级ai推理功能，系统主控具有进行全局 的第二级ai推理功能，以提升ai推理系统整体的分布式ai计算能力，同时实现和ai应用 解耦的ai推理系统，有效的提升多种ai应用的系统集成能力，因此，本发明能够支持通信 网元设备在不同ai应用的灵活扩展。
[0134]
如图2所示，本发明实施例还提供了一种ai推理系统，包括上述的系统主控和上述的分 布式线卡。由分布式线卡对获取的性能数据进行第一级推理得到推理结果，系统主控获取分 布式线卡的推理结果，系统主控可以再根据推理结果进行第二级推理，得到全局推理结果。 基于此，通过采用系统主控和分布式线卡两级ai推理架构，ai应用可以像插件一样灵活扩 展，在分布式线卡具有进行初步的第一级ai推理功能，系统主控具有进行全局的第二级ai 推理功能，以提升ai推理系统整体的分布式ai计算能力，同时实现和ai应用解耦的ai推 理系统，有效的提升多种ai应用的系统集成能力，因此，本发明能够支持通信网元设备在不 同ai应用的灵活扩展。
[0135]
此外，本发明实施例还提供了一种计算机可读存储介质，该计算机可读存储介质存储有 计算机可执行程序，该计算机可执行程序被一个或多个控制处理器执行，例如，被一个处理 器执行，可使得上述一个或多个处理器执行上述本发明实施例中的ai推理方法，例如，执行 以上描述的图1中的方法步骤101至步骤102，图4中的方法步骤401至步骤402，图5中的 方法步骤501至步骤503，或者执行以上描述的图6中的方法步骤601至步骤603，图7中的 方法步骤701至步骤702，图8中的方法步骤801至步骤803，由分布式线卡对获取的性能数 据进行第一级推理得到推理结果，系统主控获取分布式线卡的推理结果，系统主控可以再根 据推理结果进行第二级推理，得到全局推理结果。基于此，通过采用系统主控和分布式线卡 两级ai推理架构，ai应用可以像插件一样灵活扩展，在分布式线卡具有进行初步的第一级 ai推理功能，系统主控具有进行全局的第二级ai推理功能，以提升ai推理系统整体的分布 式ai计算能力，同时实现和ai应用解耦的ai推理系统，有效的提升多种ai应用的系统集 成能力，因此，本发明能够支持通信网元设备在不同ai应用的灵活扩展。
[0136]
本领域普通技术人员可以理解，上文中所公开方法中的全部或某些步骤、系统可以被实 施为软件、固件、硬件及其适当的组合。某些物理组件或所有物理组件可以被实施为由处理 器，如中央处理器、数字信号处理器或微处理器执行的软件，或者被实施为硬件，或者被实 施为集成电路，如专用集成电路。这样的软件可以分布在计算机可读介质上，计算机可读介 质可以包括计算机存储介质(或非暂时性介质)和通信介质(或暂时性介质)。如本领域普通 技术人员公知的，术语计算机存储介质包括在用于存储信息(诸如计算机可读程序、数据结 构、程序模块或其他数据)的任何方法或技术中实施的易失性和非易失性、可移除和不可移 除介质。计算机存储介质包括但不限于ram、rom、eeprom、闪存或其他存储器技术、cd-rom、 数字多功能盘(dvd)或其他光盘存储、磁盒、磁带、磁盘存储或其他磁存储装置、或者可以 用于存储期望的信息并且可以被计算机访问的任何其他的介质。此外，本领域普通技术人员 公知的是，通信介质通常包含计算机可读程序、数据结构、程序模块或者诸如载波或其他传 输机制之类的调制数据信号中的其他数据，并且可包括任何信息递送介质。
[0137]
以上是对本发明的较佳实施进行了具体说明，但本发明并不局限于上述实施方式，熟悉 本领域的技术人员在不违背本发明精神的共享条件下还可作出种种等同的变形或替换，这些 等同的变形或替换均包括在本发明权利要求所限定的范围内。

技术特征：
1.一种ai推理方法，应用于ai推理系统的系统主控，所述系统主控连接分布式线卡，所述方法包括：获取所述分布式线卡的推理结果，所述推理结果由所述分布式线卡对获取的性能数据进行第一级推理而得到；根据所述推理结果进行第二级推理，得到全局推理结果。2.根据权利要求1所述的方法，其特征在于，所述系统主控包括主控ai应用管理单元，在所述获取所述分布式线卡的推理结果，所述推理结果由所述分布式线卡对获取的性能数据进行第一级推理而得到之前，还包括：所述主控ai应用管理单元发布ai应用；所述主控ai应用管理单元向所述分布式线卡进行应用注册，以确定应用注册信息。3.根据权利要求2所述的方法，其特征在于，所述系统主控包括主控ai数据管理单元和主控ai推理单元，在所述获取所述分布式线卡的推理结果，所述推理结果由所述分布式线卡对获取的性能数据进行第一级推理而得到之后，还包括：所述主控ai数据管理单元从所述分布式线卡查询所述应用注册信息；所述主控ai数据管理单元根据所述应用注册信息对所述推理结果进行预处理，得到预处理数据，其中，所述预处理包括特征工程预处理；所述主控ai数据管理单元将所述预处理数据推送到所述主控ai推理单元。4.根据权利要求3所述的方法，其特征在于，所述获取所述分布式线卡的推理结果，包括：所述主控ai数据管理单元通过订阅方式从所述分布式线卡接收所述推理结果。5.一种ai推理方法，应用于ai推理系统的分布式线卡，所述分布式线卡连接系统主控，所述方法包括：从不同的数据采集器获取性能数据；对所述性能数据进行第一级推理，得到推理结果；推送所述推理结果给系统主控，以使所述系统主控根据所述推理结果进行第二级推理，得到全局推理结果。6.根据权利要求5所述的方法，其特征在于，所述从不同的数据采集器获取性能数据，包括：通过订阅方式从不同的数据采集器定时采集性能数据；对所述性能数据按照数量类型和时间序列进行缓存处理。7.根据权利要求5所述的方法，其特征在于，在所述对所述性能数据进行第一级推理，得到推理结果之前，还包括：查询应用注册信息，所述应用注册信息由所述系统主控向所述分布式线卡进行应用注册而得到。8.根据权利要求7所述的方法，其特征在于，所述分布式线卡包括线卡ai数据管理单元和线卡ai推理单元，所述对所述性能数据进行第一级推理，得到推理结果，包括：所述线卡ai数据管理单元根据所述应用注册信息对所述性能数据进行预处理，得到预处理数据，其中，所述预处理包括特征工程预处理；所述线卡ai数据管理单元将所述预处理数据推送到所述线卡ai推理单元；
所述线卡ai推理单元对预处理数据进行第一级推理，得到推理结果。9.一种系统主控，所述系统主控连接分布式线卡，所述系统主控包括：主控ai数据管理单元，用于获取所述分布式线卡的推理结果，其中，所述推理结果由所述分布式线卡对获取的性能数据进行第一级推理而得到；主控ai推理单元，用于根据所述推理结果进行第二级推理，得到全局推理结果。10.一种分布式线卡，所述分布式线卡连接系统主控，所述分布式线卡包括：线卡ai数据管理单元，用于从不同的数据采集器获取性能数据；线卡ai推理单元，用于对所述性能数据进行第一级推理，得到推理结果，并推送所述推理结果给系统主控，以使所述系统主控根据所述推理结果进行第二级推理，得到全局推理结果。11.一种ai推理系统，包括如权利要求9所述的系统主控和如权利要求10所述的分布式线卡。12.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机可执行程序，所述计算机可执行程序用于使计算机执行如权利要求1至4任意一项所述的ai推理方法，或者如权利要求6至8任意一项所述的ai推理方法。

技术总结
本发明公开了AI推理方法、系统和计算机可读存储介质，AI推理系统包括系统主控和分布式线卡，系统主控获取分布式线卡的推理结果，推理结果由分布式线卡对获取的性能数据进行第一级推理而得到；根据推理结果进行第二级推理，得到全局推理结果。基于此，通过采用系统主控和分布式线卡两级AI推理架构，AI应用可以像插件一样灵活扩展，在分布式线卡具有进行初步的第一级AI推理功能，系统主控具有进行全局的第二级AI推理功能，以提升AI推理系统整体的分布式AI计算能力，同时实现和AI应用解耦的AI推理系统，有效的提升多种AI应用的系统集成能力，因此，本发明能够支持通信网元设备在不同AI应用的灵活扩展。AI应用的灵活扩展。AI应用的灵活扩展。


技术研发人员：武利明
受保护的技术使用者：中兴通讯股份有限公司
技术研发日：2022.02.22
技术公布日：2023/9/7