城市综合交通数据融合处理方法、装置、设备及存储介质与流程
未命名
09-13
阅读:109
评论:0

技术领域:
:】1.本发明实施例涉及数据处理
技术领域:
:,尤其涉及一种城市综合交通数据融合方法、装置、设备及存储介质。
背景技术:
::2.目前不同城市交通行业之间的主要呈现局部合作的特点,地面公交、轨道交通、出租车、网约车、停车场、共享单车等各城市交通行业独立建设与发展各自的智能交通信息系统,从而导致不同渠道的交通数据彼此割裂的现状,各交通行业信息系统之间基本呈现为“信息孤岛”的特点,各交通行业数据无法共享、融合,这在很大程度上制约着多式联运旅客智能出行的发展。技术实现要素:3.本发明实施例提供了一种城市综合交通数据融合方法、装置、设备及存储介质,构建了交通信息的统一数据平台,实现跨城市和跨交通行业的信息共享。4.第一方面,本发明实施例提供一种城市综合交通数据融合处理方法,应用于电子设备,所述方法包括:从交通枢纽、地理区域、公共交通类型中的一个或多个维度对交通数据进行编码,建立城市交通数据平台的标准数据格式;对接入所述城市交通数据平台的多个渠道的数据源进行参数配置;所述参数配置包括数据源名称、数据源开放标签、数据认证分类、数据获取方式、接口地址、接口定义、请求类型、数据获取频率设置、有效期;根据参数配置后的所述数据源、定时任务与数据预处理器制定数据采集框架;基于所述数据采集框架从多个渠道动态采集城市交通数据,将采集的原始数据转换为所述标准数据格式。5.本技术实施例提出的城市综合交通数据融合处理方法,从多个维度建立城市交通数据平台的标准数据格式,并对接入所述城市交通数据平台的多个渠道的数据源进行参数配置,使得不同城市、不同类型的交通信息系统的数据源和数据格式统一,为数据融合提供基础。再根据参数配置后的所述数据源、定时任务与数据预处理器制定数据采集框架,在统一框架的约束下采集不同类型交通数据,对采集的数据进行初步抽取、转换处理,使得多源数据可以转换为平台的标准数据,以确保数据的正确融合。6.其中一种可能的实现方式中,基于所述数据采集框架从多个渠道动态采集城市交通数据,所述将采集的数据转换为所述标准数据格式,包括:7.基于参数配置后的所述数据源中的接口地址和接口定义,生成外部数据客户端;8.通过所述外部数据客户端从多个渠道采集城市交通数据的原始数据。9.其中一种可能的实现方式中,将采集的原始数据转换为所述标准数据格式,包括:10.对所述数据采集框架的所述数据预处理器指定输入数据格式和输出数据格式;所述输入数据格式为采集的所述原始数据对应渠道定义的数据结构;所述输出数据格式为所述标准数据格式;11.将所述原始数据输入所述数据预处理器,获得经过数据协议转换后的标准数据。12.其中一种可能的实现方式中,将采集的原始数据转换为所述标准数据格式之后,所述方法还包括:13.依据所述原始数据对应渠道数据源的数据特点及数据热敏程度,采用非结构化、结构化、半结构化的方式对标准数据格式的所述数据进行存储。14.其中一种可能的实现方式中,将采集的原始数据转换为所述标准数据格式之后,所述方法还包括:15.通过数据路由隐藏所述数据采集框架的实际接口;16.配置访问接口名称、数据类型与后端数据访问地址,生成服务接口;17.分配数据客户端管理标识符与密钥为第三方平台提供授权认证;18.响应所述第三方平台通过所述授权认证换取的访问权限,调用所述服务接口以获得所述第三方平台请求的数据。19.其中一种可能的实现方式中,将采集的原始数据转换为所述标准数据格式之后,所述方法还包括:20.将采集的原始数据按照数据类型投递至对应队列;21.对获得的实时分析需求进行编码;22.按照所述编码从所述对应队列接收实时传递的数据进行匹配所述实时分析需求的计算;23.通过所述数据采集框架的定时任务触发器监听对数据的处理结果,当所述数据的处理结果满足预设条件,执行对数据的分级处理。24.第二方面,本发明实施例提供一种城市综合交通数据融合处理装置,设置在电子设备中,所述装置包括:25.建立模块,用于从交通枢纽、地理区域、公共交通类型中的一个或多个维度对交通数据进行编码,建立城市交通数据平台的标准数据格式;26.参数配置模块,用于对接入所述城市交通数据平台的多个渠道的数据源进行参数配置;所述参数配置包括数据源名称、数据源开放标签、数据认证分类、数据获取方式、接口地址、接口定义、请求类型、数据获取频率设置、有效期;27.框架制定模块,用于根据参数配置后的所述数据源、定时任务与数据预处理器制定数据采集框架;28.格式转换模块,用于基于所述数据采集框架从多个渠道动态采集城市交通数据,将采集的原始数据转换为所述标准数据格式。29.其中一种可能的实现方式中,所述格式转换模块包括:30.客户端生成子模块,用于基于参数配置后的所述数据源中的接口地址和接口定义,生成外部数据客户端;31.数据采集自模块,用于通过所述外部数据客户端从多个渠道采集城市交通数据的原始数据。32.第三方面,本发明实施例提供一种设备,包括:至少一个处理器;以及与所述处理器通信连接的至少一个存储器,其中:所述存储器存储有可被所述处理器执行的程序指令,所述处理器调用所述程序指令能够执行第一方面提供的方法。33.第四方面,本发明实施例提供一种计算机可读存储介质,所述计算机可读存储介质存储计算机指令,所述计算机指令使所述计算机执行第一方面提供的方法。34.应当理解的是,本发明实施例的第二~四方面与本发明实施例的第一方面的技术方案一致,各方面及对应的可行实施方式所取得的有益效果相似,不再赘述。【附图说明】35.为了更清楚地说明本发明实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本说明书的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其它的附图。36.图1是本技术实施例提出的城市综合交通数据融合处理方法的步骤流程图;37.图2是本技术实施例提出的另一种城市综合交通数据融合处理方法步骤流程图;38.图3是本发明实施例提出的城市综合交通数据融合处理装置的功能模块图;39.图4为本发明实施例提供的一种电子设备的结构示意图。【具体实施方式】40.为了更好的理解本说明书的技术方案,下面结合附图对本发明实施例进行详细描述。41.应当明确,所描述的实施例仅仅是本说明书一部分实施例,而不是全部的实施例。基于本说明书中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其它实施例,都属于本说明书保护的范围。42.在本发明实施例中使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本说明书。在本发明实施例和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义。43.城市综合交通数据融合是指将城市交通系统中不同来源、不同类型的交通数据进行整合和融合,以实现交通信息的共享、交通系统的智能化和交通管理的优化。城市综合交通数据融合的主要目的是提高城市交通的效率和安全性,以及优化城市交通管理。通过整合不同来源的交通数据,例如地面公交、轨道交通、出租车、网约车、共享单车等,可以提高交通信息的准确性和完整性,从而更好地指导交通管理决策。此外,城市综合交通数据融合还可以实现交通信息的共享,方便市民出行,提高市民的出行体验。44.图1是本技术实施例提出的城市综合交通数据融合处理方法的步骤流程图,如图1所示,步骤包括:45.步骤s11:从交通枢纽、地理区域、公共交通类型中的一个或多个维度对交通数据进行编码,建立城市交通数据平台的标准数据格式。46.交通数据的基础数据包括交通枢纽基础数据、地理区域基础数据以及公共交通基础数据。交通枢纽基础数据:包括枢纽字典数据,用于记录枢纽名称、枢纽类型、所属单位、经纬度等。地理区域基础数据:记录国内各级行政区(国、省、市、区)的编码、行政区名称、行政区从属关系、边缘坐标、邮政编码等信息。公共交通信息:包含公交、地铁车站站名、线路、站序、运行时刻表等信息。47.无论是地面公交、轨道交通、出租车、网约车、停车场、共享单车,在交通枢纽、地理区域、公共交通信息的维度上,衡量标准是可以一致的。示例地,对于出租车和停车场,均可记录交通数据为从区域a行驶到区域b,或者记录交通数据为从位置(经度坐标x1,维度坐标y1)行驶到(经度坐标x2,维度坐标y2),不会因为类型不同而发生改变。48.本技术一种示例从交通枢纽、地理区域、公共交通类型中的一个或多个维度对交通数据进行编码,建立城市交通数据平台的标准数据格式的方式包括:编码标准由渠道编码标准、地理区域编码标准、枢纽分类编码标准、枢纽编码标准、经纬度编码标准组成。渠道编码标准:渠道编码用于标记地理区域、枢纽数据来源,同时用于建立不同渠道的编码对应关系,以便进行编码转换。行政区域编码标准:对国内行政区域编码,基础格式为“d_{渠道}_{区域分级}_{code}”,区域分至四级:国、省、市、区。枢纽分类编码标准:分为大类、中类、小类三级,大类编码2位,例:交通设施服务15;中类编码4位,例交通设施服务-火车站1502;小类编码6位,例交通设施服务-火车站-火车站150200。枢纽编码标准:基础格式为“p_{渠道}_{枢纽小类}_{code}”=“p_{网约车}_{枢纽小类}_{code}。49.步骤s12:对接入所述城市交通数据平台的多个渠道的数据源进行参数配置;所述参数配置包括数据源名称、数据源开放标签、数据认证分类、数据获取方式、接口地址、接口定义、请求类型、数据获取频率设置以及有效期;50.配置接入城市交通数据的数据源参数,接入城市交通数据源。51.城市交通数据源所需配置的参数包括数据源名称、授权单位、是否开放、数据认证分类、数据获取方式、接口地址、请求类型、数据获取频率设置、有效期等信息。其中:授权单位代表数据源的归属单位、是否开放属性标明该数据源是否需要授权信息才允许访问、数据认证分类记录该数据源所采用的认证类型(oauth、账号口令、accesskey等)、数据获取频率设置数据源允许的调用频率。52.示例地,数据源名称可以是网约车信息系统的数据源;数据源开放标签可以是网约车信息系统是否开放的标签;数据认证分类可以是数据是否认证的标签;数据获取方式、接口地址、接口定义、请求类型、数据获取频率。53.完成参数配置后的不同渠道的数据源都具有统一的接口格式和接口标签。54.步骤s13:根据参数配置后的所述数据源、定时任务与数据预处理器制定数据采集框架。55.根据参数配置后的所述数据源、定时任务与数据预处理器制定数据采集框架,主动通过外部协作平台从互联网第三方数据源获取数据。采集后的原始数据经过数据预处理器进行清洗后,由数据处理服务将数据进行入库处理,同时通过数据复制服务将处理后的数据存入数据集群作为长期存储。对于需要实时分析计算的数据进行处理后按需进行相应操作。56.步骤s14:基于所述数据采集框架从多个渠道动态采集城市交通数据,将采集的原始数据转换为所述标准数据格式。57.本技术一种示例给出执行基于所述数据采集框架从多个渠道动态采集城市交通数据的具体方式:58.步骤s141:基于参数配置后的所述数据源中的接口地址和接口定义,生成外部数据客户端。59.步骤s142:通过所述外部数据客户端从多个渠道采集城市交通数据的原始数据。60.生成城市交通数据客户端,定义城市交通数据结构,在统一流程框架的约束下定制化动态采集城市交通数据:61.1)生成外部数据客户端:结合数据源定义与原始数据对应渠道(授权单位)提供的数据接口说明,根据市交通数据数据源的要求定制开发符合其接口规范的客户端程序。该客户端按照接口规范直接从城市交通数据源获取原始数据。62.2)定义数据结构定义:基于统一的城市交通数据规范,结合城市交通数据源的数据接口生成统一数据结构定义,约定针对此城市交通数据的通用数据预处理接口定义,为后期规范化数据预处理提供支持。63.3)制定查询规范:结合城市交通数据客户端将各城市交通的数据源经过处理,统一数据查询规范,为标准化数据处理流程提供数据支撑。64.4)定义公共属性:针对城市不同交通数据的公共属性定义数据。65.5)数据采集主流程模块:在统一数据采集流程框架定义下,通过定制化研发,结合城市交通数据查询服务、数据预处理组件,完成数据采集、处理、清洗与入库动作。66.本技术实施例由融合平台根据数据源、定时任务与数据预处理器定义数据采集框架,通过数据采集框架主动通过外部协作平台从互联网第三方数据源获取数据。采集后的原始数据经过数据预处理器进行清洗后,由数据处理服务将数据进行入库处理,同时通过数据复制服务将处理后的数据存入数据集群作为长期存储。对于需要实时分析计算的数据进行处理后按需进行相应操作。67.本技术一种实施例还给出执行将采集的原始数据转换为所述标准数据格式的具体实施方式:68.步骤s14-1:对所述数据采集框架的所述数据预处理器指定输入数据格式和输出数据格式;所述输入数据格式为采集的所述原始数据对应渠道定义的数据结构;所述输出数据格式为所述标准数据格式。69.步骤s14-2:将所述原始数据输入所述数据预处理器,获得经过数据协议转换后的标准数据。70.定义输入输出:对于数据预处理器,输入数据统一为第三方数据源定义的数据结构,输出数据为标准数据结构。数据转换协议:将第三方数据源的数据字段根据转换协议转为标准的数据字段值。71.抽取、转换采集的城市交通数据,转换为标准化数据,完成预处理,进行数据融合。对采集的数据进行初步抽取、转换处理,使得多源数据可以转换为标准数据,以确保数据的正确融合。不同城市交通数据在统一数据结构的基础上,通过定义数据协议,实现第三方数据转换为标准的本地数据,实现多源数据的融合。72.本技术另一种实施例提出另一种城市综合交通数据融合处理方法,图2是本技术实施例提出的另一种城市综合交通数据融合处理方法步骤流程图,如图2所示,步骤包括:73.步骤s21:从交通枢纽、地理区域、公共交通类型中的一个或多个维度对交通数据进行编码,建立城市交通数据平台的标准数据格式;74.步骤s22:对接入所述城市交通数据平台的多个渠道的数据源进行参数配置;所述参数配置包括数据源名称、数据源开放标签、数据认证分类、数据获取方式、接口地址、接口定义、请求类型、数据获取频率设置、有效期;75.步骤s23:根据参数配置后的所述数据源、定时任务与数据预处理器制定数据采集框架;76.步骤s24:基于所述数据采集框架从多个渠道动态采集城市交通数据,将采集的原始数据转换为所述标准数据格式。77.步骤s25:依据所述原始数据对应渠道数据源的数据特点及数据热敏程度,采用非结构化、结构化、半结构化的方式对标准数据格式的所述数据进行存储。78.依据数据源的数据特点及数据热敏程度,平台采用支持多样化的数据存储实现方案,支持非结构化、结构化、半结构化的数据存储。支持高频次的数据更新、查询机制。79.本技术实施例提出的交通数据平台在将采集的原始数据转换为所述标准数据格式,并将从各渠道采集的数据进行协议转换以统一的标准数据格式存储至本地之后,可以将交通数据平台的数据进行开放共享。80.本技术实施例还给出基于城市交通数据平台进行数据共享的具体实施方式,配置访问接口名称、数据类型与后端数据访问地址,生成服务接口的同时,通过数据路由隐藏所述数据采集框架的实际接口,保证数据调用时的安全性。81.通过数据路由隐藏所述数据采集框架的实际接口;82.配置访问接口名称、数据类型与后端数据访问地址,生成服务接口;83.分配数据客户端管理标识符与密钥为第三方平台提供授权认证;84.响应所述第三方平台通过所述授权认证换取的访问权限,调用所述服务接口以获得所述第三方平台请求的数据。85.面向企业、交通调度部门或其他机构提供联程联运信息查询服务,具备用户认证与授权、数据路由、接口调用统计、动态权限控制有情能力。86.1)用户认证与授权:支持oauth2.0为授权标准,通过分配appid与secret为第三方平台用户提供授权认证。用户通过认证换取访问权限token,并凭此token调用平台数据查询服务接口。为保障oauth账户的安全,账户同一时间仅允许获得一个授权token,数据开放查询服务凭借token解析访问用户的信息,并进行必要的权限控制与接口调用统计。87.2)数据路由配置:通过数据路由隐藏实际后端数据接口保护数据安全。根据配置接口名称、数据类型与后端数据访问地址,开放查询服务向外提供该数据的可控访问能力。88.3)接口调用统计:记录每一次调用接口的必要信息并进行统计用于后期审计与访问控制。89.4)动态权限控制:基于oauth授权账号与接口路由配置,对账号与接口进行绑定授权。90.基于城市交通数据平台从各渠道数据源采集的原始数据,对数据进行协议转换并存储至本地后,还可以对存储至本地的数据进行数据分析,本技术一种示例给出基于城市交通数据平台对交通数据进行分析的具体方式:91.将采集的原始数据按照数据类型投递至对应队列;队列可以是用于缓存待处理数据的数据队列。92.对获得的实时分析需求进行编码;93.按照所述编码从所述对应队列接收实时传递的数据进行匹配所述实时分析需求的计算;94.通过所述数据采集框架的定时任务触发器监听对数据的处理结果,当所述数据的处理结果满足预设条件,执行对数据的分级处理。95.预设条件可以是交通数据满足特定阈值的条件。例如,公共交通的公交车已执行完预设次数的行驶;或者,铁路某交通枢纽发生错车时列车行驶速度超过某个阈值;或者,共享车正在使用的数据达到某个阈值。96.任务触发器监听对数据的处理结果,判断特定交通数据超过某个阈值,将该数据进行预警标记,并存储。97.对采集的最新数据执行流式数据处理,实时分析与计算城市综合交通数据;定时对超出热数据时效的数据进行归档,同时备份至数据集群,对城市综合交通数据分级存储。98.1)流式数据处理用于按需对采集的最新数据进行实时分析与计算,并在计算结果满足相应条件时做出响应。99.2)数据复制:通过标准队列机制,将采集的数据按照数据类型进行投递,等到实时处理,做到数据的采集与计算解耦。100.3)数据计算单元:根据第三方数据的实时分析需求进行编码,从队列接收实时传递的数据后进行相应的计算。101.4)触发器:用于监听数据计算单元处理的结果,当实时数据计算结果满足某一预设条件时,执行相应的动作。102.图3是本发明实施例提出的城市综合交通数据融合处理装置的功能模块图,上述城市综合交通数据融合处理装置设置在电子设备中,如图3所示,所述装置包括:103.建立模块31,用于从交通枢纽、地理区域、公共交通类型中的一个或多个维度对交通数据进行编码,建立城市交通数据平台的标准数据格式;104.参数配置模块32,用于对接入所述城市交通数据平台的多个渠道的数据源进行参数配置;所述参数配置包括数据源名称、数据源开放标签、数据认证分类、数据获取方式、接口地址、接口定义、请求类型、数据获取频率设置、有效期;105.框架制定模块33,用于根据参数配置后的所述数据源、定时任务与数据预处理器制定数据采集框架;106.格式转换模块34,用于基于所述数据采集框架从多个渠道动态采集城市交通数据,将采集的原始数据转换为所述标准数据格式。107.图3所示实施例提供的城市综合交通数据融合处理装置可用于执行本说明书图1和图2所示方法实施例的技术方案,其实现原理和技术效果可以进一步参考方法实施例中的相关描述。108.可选地,所述格式转换模块包括:109.客户端生成子模块,用于基于参数配置后的所述数据源中的接口地址和接口定义,生成外部数据客户端;110.数据采集自模块,用于通过所述外部数据客户端从多个渠道采集城市交通数据的原始数据。111.可选地,所述格式转换模块还包括:112.指定输入子模块,用于对所述数据采集框架的所述数据预处理器指定输入数据格式和输出数据格式;所述输入数据格式为采集的所述原始数据对应渠道定义的数据结构;所述输出数据格式为所述标准数据格式;113.输入子模块,用于将所述原始数据输入所述数据预处理器,获得经过数据协议转换后的标准数据。114.可选地,所述装置还包括:115.存储模块,用于依据所述原始数据对应渠道数据源的数据特点及数据热敏程度,采用非结构化、结构化、半结构化的方式对标准数据格式的所述数据进行存储。116.可选地,所述装置还包括:117.隐藏模块,用于通过数据路由隐藏所述数据采集框架的实际接口;118.接口配置模块,用于配置访问接口名称、数据类型与后端数据访问地址,生成服务接口;119.分配模块,用于分配数据客户端管理标识符与密钥为第三方平台提供授权认证;120.响应模块,用于响应所述第三方平台通过所述授权认证换取的访问权限,调用所述服务接口以获得所述第三方平台请求的数据。121.可选地,所述装置还包括:122.投递模块,用于将采集的原始数据按照数据类型投递至对应队列;123.编码模块,用于对获得的实时分析需求进行编码;124.计算模块,用于按照所述编码从所述对应队列接收实时传递的数据进行匹配所述实时分析需求的计算;125.监听模块,用于通过所述数据采集框架的定时任务触发器监听对数据的处理结果,当所述数据的处理结果满足预设条件,执行对数据的分级处理。126.上述所示实施例提供的装置用于执行上述所示方法实施例的技术方案,其实现原理和技术效果可以进一步参考方法实施例中的相关描述,在此不再赘述。127.上述所示实施例提供的装置例如可以是:芯片或者芯片模组。上述所示实施例提供的装置用于执行上述所示方法实施例的技术方案,其实现原理和技术效果可以进一步参考方法实施例中的相关描述,在此不再赘述。128.关于上述实施例中描述的各个装置包含的各个模块/单元,其可以是软件模块/单元,也可以是硬件模块/单元,或者也可以部分是软件模块/单元,部分是硬件模块/单元。例如,对于应用于或集成于芯片的各个装置,其包含的各个模块/单元可以都采用电路等硬件的方式实现,或者,至少部分模块/单元可以采用软件程序的方式实现,该软件程序运行于芯片内部集成的处理器,剩余的部分模块/单元可以采用电路等硬件方式实现;对于应用于或集成于芯片模组的各个装置,其包含的各个模块/单元可以都采用电路等硬件的方式实现,不同的模块/单元可以位于芯片模组的同一组件(例如芯片、电路模块等)或者不同组件中,或者,至少部分模块/单元可以采用软件程序的方式实现,该软件程序运行于芯片模组内部集成的处理器,剩余的部分模块/单元可以采用电路等硬件方式实现;对于应用于或集成于电子终端设备的各个装置,其包含的各个模块/单元可以都采用电路等硬件的方式实现,不同的模块/单元可以位于电子终端设备内同一组件(例如,芯片、电路模块等)或者不同组件中,或者,至少部分模块/单元可以采用软件程序的方式实现,该软件程序运行于电子终端设备内部集成的处理器,剩余的(如果有)部分模块/单元可以采用电路等硬件方式实现。129.图4为本发明实施例提供的一种电子设备的结构示意图,该电子设备400包括处理器410,存储器411,存储在存储器411上并可在所述处理器410上运行的计算机程序,所述处理器410执行所述程序时实现前述方法实施例中的步骤,实施例提供的电子设备可用于执行本上述所示方法实施例的技术方案,其实现原理和技术效果可以进一步参考方法实施例中的相关描述,在此不再赘述。130.本发明实施例提供一种计算机可读存储介质,所述计算机可读存储介质存储计算机指令,所述计算机指令使所述计算机执行本说明书图1和图2所示实施例提供的城市综合交通数据融合处理方法。计算机可读存储介质可以指非易失性计算机存储介质。131.上述计算机可读存储介质可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(ram)、只读存储器(readonlymemory,rom)、可擦式可编程只读存储器(erasableprogrammablereadonlymemory,eprom)或闪存、光纤、便携式紧凑磁盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。132.计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括——但不限于——电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。133.计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括——但不限于——无线、电线、光缆、射频(radiofrequency,rf)等等,或者上述的任意合适的组合。134.可以以一种或多种程序设计语言或其组合来编写用于执行本说明书操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如java、smalltalk、c++,还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(localareanetwork,lan)或广域网(wideareanetwork,wan)连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。135.上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下,在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外,在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中,多任务处理和并行处理也是可以的或者可能是有利的。136.在本发明实施例的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本说明书的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。137.此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本说明书的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。138.流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为,表示包括一个或更多个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分,并且本说明书的优选实施方式的范围包括另外的实现,其中可以不按所示出或讨论的顺序,包括根据所涉及的功能按基本同时的方式或按相反的顺序,来执行功能,这应被本说明书的实施例所属
技术领域:
:的技术人员所理解。139.取决于语境,如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”或“响应于检测”。类似地,取决于语境,短语“如果确定”或“如果检测(陈述的条件或事件)”可以被解释成为“当确定时”或“响应于确定”或“当检测(陈述的条件或事件)时”或“响应于检测(陈述的条件或事件)”。140.需要说明的是,本发明实施例中所涉及的终端可以包括但不限于个人计算机(personalcomputer,pc)、个人数字助理(personaldigitalassistant,pda)、无线手持设备、平板电脑(tabletcomputer)、手机、mp3播放器、mp4播放器等。141.在本说明书所提供的几个实施例中,应该理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如,多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。142.另外,在本说明书各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。143.上述以软件功能单元的形式实现的集成的单元,可以存储在一个计算机可读取存储介质中。上述软件功能单元存储在一个存储介质中,包括若干指令用以使得一台计算机装置(可以是个人计算机,服务器,或者网络装置等)或处理器(processor)执行本说明书各个实施例所述方法的部分步骤。而前述的存储介质包括:u盘、移动硬盘、只读存储器(rom)、随机存取存储器(ram)、磁碟或者光盘等各种可以存储程序代码的介质。144.以上所述仅为本说明书的较佳实施例而已,并不用以限制本说明书,凡在本说明书的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本说明书保护的范围之内。当前第1页12当前第1页12
技术特征:
1.一种城市综合交通数据融合处理方法,其特征在于,所述方法包括:从交通枢纽、地理区域、公共交通类型中的一个或多个维度对交通数据进行编码,建立城市交通数据平台的标准数据格式;对接入所述城市交通数据平台的多个渠道的数据源进行参数配置;所述参数配置包括数据源名称、数据源开放标签、数据认证分类、数据获取方式、接口地址、接口定义、请求类型、数据获取频率设置、有效期;根据参数配置后的所述数据源、定时任务与数据预处理器制定数据采集框架;基于所述数据采集框架从多个渠道动态采集城市交通数据,将采集的原始数据转换为所述标准数据格式。2.根据权利要求1所述的方法,其特征在于,基于所述数据采集框架从多个渠道动态采集城市交通数据,所述将采集的数据转换为所述标准数据格式,包括:基于参数配置后的所述数据源中的接口地址和接口定义,生成外部数据客户端;通过所述外部数据客户端从多个渠道采集城市交通数据的原始数据。3.根据权利要求1所述的方法,其特征在于,将采集的原始数据转换为所述标准数据格式,包括:对所述数据采集框架的所述数据预处理器指定输入数据格式和输出数据格式;所述输入数据格式为采集的所述原始数据对应渠道定义的数据结构;所述输出数据格式为所述标准数据格式;将所述原始数据输入所述数据预处理器,获得经过数据协议转换后的标准数据。4.根据权利要求1所述的方法,其特征在于,将采集的原始数据转换为所述标准数据格式之后,所述方法还包括:依据所述原始数据对应渠道数据源的数据特点及数据热敏程度,采用非结构化、结构化、半结构化的方式对标准数据格式的所述数据进行存储。5.根据权利要求2所述的方法,其特征在于,将采集的原始数据转换为所述标准数据格式之后,所述方法还包括:通过数据路由隐藏所述数据采集框架的实际接口;配置访问接口名称、数据类型与后端数据访问地址,生成服务接口;分配数据客户端管理标识符与密钥为第三方平台提供授权认证;响应所述第三方平台通过所述授权认证换取的访问权限,调用所述服务接口以获得所述第三方平台请求的数据。6.根据权利要求2所述的方法,其特征在于,将采集的原始数据转换为所述标准数据格式之后,所述方法还包括:将采集的原始数据按照数据类型投递至对应队列;对获得的实时分析需求进行编码;按照所述编码从所述对应队列接收实时传递的数据进行匹配所述实时分析需求的计算;通过所述数据采集框架的定时任务触发器监听对数据的处理结果,当所述数据的处理结果满足预设条件,执行对数据的分级处理。7.一种城市综合交通数据融合处理装置,其特征在于,所述装置包括:
建立模块,用于从交通枢纽、地理区域、公共交通类型中的一个或多个维度对交通数据进行编码,建立城市交通数据平台的标准数据格式;参数配置模块,用于对接入所述城市交通数据平台的多个渠道的数据源进行参数配置;所述参数配置包括数据源名称、数据源开放标签、数据认证分类、数据获取方式、接口地址、接口定义、请求类型、数据获取频率设置、有效期;框架制定模块,用于根据参数配置后的所述数据源、定时任务与数据预处理器制定数据采集框架;格式转换模块,用于基于所述数据采集框架从多个渠道动态采集城市交通数据,将采集的原始数据转换为所述标准数据格式。8.根据权利要求7所述的装置,其特征在于,所述格式转换模块包括:客户端生成子模块,用于基于参数配置后的所述数据源中的接口地址和接口定义,生成外部数据客户端;数据采集自模块,用于通过所述外部数据客户端从多个渠道采集城市交通数据的原始数据。9.一种设备,包括:至少一个处理器;以及与所述处理器通信连接的至少一个存储器,其特征在于,所述存储器存储有可被所述处理器执行的程序指令,所述处理器调用所述程序指令能够执行如权利要求1至6任一所述的方法。10.一种计算机可读存储介质,所述计算机可读存储介质存储计算机指令,其特征在于,所述计算机指令使所述计算机执行如权利要求1至6任一所述的方法。
技术总结
本发明实施例提出了一种城市综合交通数据融合方法、装置、设备及存储介质,涉及数据处理技术领域;构建了交通信息的统一数据平台,实现跨城市和跨交通行业的信息共享。包括:从交通枢纽、地理区域、公共交通类型中的一个或多个维度对交通数据进行编码,建立城市交通数据平台的标准数据格式;对接入所述城市交通数据平台的多个渠道的数据源进行参数配置;根据参数配置后的所述数据源、定时任务与数据预处理器制定数据采集框架;基于所述数据采集框架从多个渠道动态采集城市交通数据,将采集的原始数据转换为所述标准数据格式。始数据转换为所述标准数据格式。始数据转换为所述标准数据格式。
技术研发人员:单杏花 阎志远 朱建军 张涛 翁湦元 原非凡 杨立鹏 李雯 张启蒙 朱颖婷 詹凌瀚 李杨 郝晓培 汪健雄
受保护的技术使用者:中国铁道科学研究院集团有限公司电子计算技术研究所 北京经纬信息技术有限公司 中国国家铁路集团有限公司
技术研发日:2023.06.02
技术公布日:2023/9/12
版权声明
本文仅代表作者观点,不代表航家之家立场。
本文系作者授权航家号发表,未经原创作者书面授权,任何单位或个人不得引用、复制、转载、摘编、链接或以其他任何方式复制发表。任何单位或个人在获得书面授权使用航空之家内容时,须注明作者及来源 “航空之家”。如非法使用航空之家的部分或全部内容的,航空之家将依法追究其法律责任。(航空之家官方QQ:2926969996)
航空之家 https://www.aerohome.com.cn/
飞机超市 https://mall.aerohome.com.cn/
航空资讯 https://news.aerohome.com.cn/