数据采集的方法、装置、电子设备和存储介质与流程

1.本公开涉及数据采集技术领域，尤其涉及一种数据采集的方法、装置、电子设备和存储介质。


背景技术：

2.随着互联网技术的发展，网络的数据传输速度越来越高，因此对互联网数据的采集的要求也越来越高，但目前采用的同步阻塞式数据采集方式需要一直等待网络响应，直到数据采集结束后才能进行采集数据处理；多线程和多进程的数据采集方式容易在线程间切换的时候带来损耗，降低了数据采集的效率。
3.因此，亟需一种具有较高采集效率的数据采集的方法、装置、电子设备和存储介质。


技术实现要素：

4.本公开提供了一种数据采集的方法、装置、设备以及存储介质。
5.根据本公开的第一方面，提供了一种数据采集的方法。该方法应用于数据采集中心，包括：
6.从待处理队列的队首获取数据采集任务并进行解析，得到url地址；其中，数据采集任务是由需求端写入待处理队列的队尾的；
7.创建与url地址连接的非阻塞式socket，通过异步事件回调模式采集数据；
8.将采集的数据写入已处理队列的队尾，以便需求端从已处理队列的队首获取数据并进行保存。
9.如上的方面和任一可能的实现方式，进一步提供一种实现方式，
10.待处理队列和已处理队列均为符合先进先出的数据处理顺序的线性队列。
11.如上的方面和任一可能的实现方式，进一步提供一种实现方式，
12.数据采集任务的数据结构包括任务名称、任务id、url地址、并发数和采集数据关键字。
13.如上的方面和任一可能的实现方式，进一步提供一种实现方式，
14.需求端写入待处理队列的队尾包括：
15.判断待处理队列是否已满，若否，则将数据采集任务写入到待处理队列尾部并更新待处理队列的长度。
16.如上的方面和任一可能的实现方式，进一步提供一种实现方式，
17.从待处理队列的队首获取数据采集任务包括：
18.判断待处理队列是否为空，若否，则从待处理队列的队首获取数据采集任务并更新待处理队列的长度。
19.如上的方面和任一可能的实现方式，进一步提供一种实现方式，
20.将采集的数据写入已处理队列的队尾包括：
21.判断已处理队列是否已满，若否，则将采集的数据写入已处理队列的队尾并更新已处理队列的长度。
22.如上的方面和任一可能的实现方式，进一步提供一种实现方式，
23.需求端从已处理队列的队首获取数据包括：
24.判断已处理队列是否为空，若否，则从已处理队列的队首获取数据。
25.根据本公开的第二方面，提供了一种数据采集的装置。该装置包括：
26.获取模块，用于从待处理队列的队首获取数据采集任务并进行解析，得到url地址；其中，数据采集任务是由需求端写入待处理队列的队尾的；
27.创建模块，用于创建与url地址连接的非阻塞式socket，通过异步事件回调模式采集数据；
28.存储模块，用于将采集的数据写入已处理队列的队尾，以便需求端从已处理队列的队首获取数据并进行保存。
29.根据本公开的第三方面，提供了一种电子设备。该电子设备包括：存储器和处理器，存储器上存储有计算机程序，处理器执行程序时实现如以上的方法。
30.根据本公开的第四方面，提供了一种计算机可读存储介质，其上存储有计算机程序，程序被处理器执行时实现如根据本公开的第一方面和/或第二方面的方法。
31.通过先进先出的线性队列对数据采集任务和采集的数据进行按顺序执行，提高数据传输效率，同时采用异步非阻塞式的采集方式进一步提高数据采集的效率。
32.应当理解，发明内容部分中所描述的内容并非旨在限定本公开的实施例的关键或重要特征，亦非用于限制本公开的范围。本公开的其它特征将通过以下的描述变得容易理解。
附图说明
33.结合附图并参考以下详细说明，本公开各实施例的上述和其他特征、优点及方面将变得更加明显。附图用于更好地理解本方案，不构成对本公开的限定在附图中，相同或相似的附图标记表示相同或相似的元素，其中：
34.图1示出了能够实现本公开的实施例的示例性运行环境的示意图；
35.图2示出了图1中所示的客户端、网络和数据采集中心之间的交互方法的示意图；
36.图3示出了根据本公开的实施例的数据采集的方法的流程图；
37.图4示出了根据本公开的实施例的数据采集的装置的框图；
38.图5示出了能够实施本公开的实施例的示例性电子设备的方框图。
具体实施方式
39.为使本公开实施例的目的、技术方案和优点更加清楚，下面将结合本公开实施例中的附图，对本公开实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本公开一部分实施例，而不是全部的实施例。基于本公开中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的全部其他实施例，都属于本公开保护的范围。
40.另外，本文中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，a和/或b，可以表示：单独存在a，同时存在a和b，单独存在b这三种情况。另
外，本文中字符“/”，一般表示前后关联对象是一种“或”的关系。
41.图1示出了能够实现本公开的实施例的示例性运行环境100的示意图，所述运行环境100包括客户端101、网络102和数据采集中心103。应当理解的是，图1中的客户端101、网络102和数据采集中心103的数目仅仅是示意性的，根据需要，可以具有任意数目的客户端101、网络102和数据采集中心103。特别地，在目标数据不需要从远程采集的情况下，上述系统架构可以不包括网络，而只包括客户端和数据采集中心。
42.作为一个实施例，客户端将数据采集任务写入待处理队列的队尾；数据采集中心从待处理队列的队首获取数据采集任务并进行解析，得到url地址；数据采集中心创建与所述url地址连接的非阻塞式socket，通过异步事件回调模式采集数据；数据采集中心将采集的数据写入已处理队列的队尾；客户端从所述已处理队列的队首获取数据并进行保存。采用异步非阻塞式的采集方式提高数据采集的效率。
43.图3示出了根据本公开的实施例的数据采集的方法的流程图，该方法应用于数据采集中心，包括：
44.s301，从待处理队列的队首获取数据采集任务并进行解析，得到url地址；其中，数据采集任务是由需求端写入所述待处理队列的队尾的。
45.在一些实施例中，所述待处理队列和已处理队列均由所述数据采集中心创建。
46.在一些实施例中，所述待处理队列和已处理队列均为符合先进先出的数据处理顺序的线性队列。
47.在一些实施例中，所述数据采集任务的数据结构包括任务名称、任务id、url地址、并发数和采集数据关键字，例如如下所示的数据结构：
48."task_name":"task name",
49."task_id":"task id",
50."url":"collection url address",
51."concurrency":"concurrency number",
52."collection_data_keyword":"collection data keyword"。
53.在一些实施例中，所述需求端可以为客户端，也可以为服务器。
54.在一些实施例中，所述url为uniform resource locator的缩写，表示统一资源定位符。
55.在一些实施例中，所述数据采集中心从待处理队列的队首获取数据采集任务包括：判断所述待处理队列是否为空，若是，则从所述待处理队列的队首获取数据采集任务的操作失败；若否，则从所述待处理队列的队首获取数据采集任务并更新所述待处理队列的长度。其中，更新所述待处理队列的长度具体为：
56.判断所述待处理队列是否为空，若是，则更新所述待处理队列的长度的操作失败；若否，则更新队首位置和所述待处理队列的长度，例如通过如下所示代码进行更新队首，
[0057][0058]
其中，队列的数组实现为arr；队列的长度为n，队列的头部和尾部分别为head和tail。
[0059]
在一些实施例中，所述需求端写入所述待处理队列的队尾包括：判断所述待处理队列是否已满，若是，则将所述数据采集任务写入到所述待处理队列尾部的操作失败；若否，则将所述数据采集任务写入到所述待处理队列尾部并更新所述待处理队列的长度。
[0060]
在一些实施例中，通过使用python第三方库beautiful soup对数据采集任务进行解析，例如通过如下所示的代码对数据采集任务进行解析：
[0061][0062]
根据本公开的实施例，通过从待处理队列的队首获取数据采集任务并进行解析，
得到url地址，实现url地址的快速准确确定，提高数据采集效率。
[0063]
s302，创建与所述url地址连接的非阻塞式socket，通过异步事件回调模式采集数据。
[0064]
在一些实施例中，所述采集数据的类型可以为html数据，也可以为xml数据，还可以为json数据。
[0065]
在一些实施例中，所述socket的类型可以为sock_stream，也可以为sock_dgram，还可以为sock_raw。
[0066]
在一些实施例中，在创建非阻塞式socket连接时，可参考如下所示的例子：
[0067]
[0068][0069]
根据本公开的实施例，通过创建与所述url地址连接的非阻塞式socket，并利用异步事件回调模式采集数据，克服同步阻塞式数据采集方式的缺陷，无需等到网络的输入和输出，提高数据采集效率。
[0070]
s303，将采集的数据写入已处理队列的队尾，以便需求端从所述已处理队列的队首获取数据并进行保存。
[0071]
在一些实施例中，所述将采集的数据写入已处理队列的队尾包括：判断所述已处理队列是否已满，若是，则将采集的数据写入已处理队列的队尾的操作失败；若否，则将采集的数据写入已处理队列的队尾并更新所述已处理队列的长度。
[0072]
在一些实施例中，所述需求端从所述已处理队列的队首获取数据包括：判断所述已处理队列是否为空，若是，则从所述已处理队列的队首获取数据的操作失败；若否，则从所述已处理队列的队首获取数据。
[0073]
根据本公开的实施例，实现了以下技术效果：通过先进先出的线性队列对数据采集任务和采集的数据进行按顺序执行，提高数据传输效率，同时采用异步非阻塞式的采集方式进一步提高数据采集的效率。
[0074]
需要说明的是，对于前述的各方法实施例，为了简单描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本公开并不受所描述的动作顺序的限制，因为依据本公开，某些步骤可以采用其他顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于可选实施例，所涉及的动作和模块并不一定是本公开所必须的。
[0075]
以上是关于方法实施例的介绍，以下通过装置实施例，对本公开所述方案进行进
一步说明。
[0076]
图4示出了根据本公开的实施例的数据采集的装置400的方框图。该装置400应用于数据采集中心，包括：
[0077]
获取模块401，用于从待处理队列的队首获取数据采集任务并进行解析，得到url地址；其中，数据采集任务是由需求端写入所述待处理队列的队尾的。
[0078]
在一些实施例中，所述待处理队列和已处理队列均由所述数据采集中心创建。
[0079]
在一些实施例中，所述待处理队列和已处理队列均为符合先进先出的数据处理顺序的线性队列。
[0080]
在一些实施例中，所述需求端可以为客户端，也可以为服务器。
[0081]
在一些实施例中，所述获取模块401设置有第一判断单元，用于判断所述待处理队列是否为空，若是，则从所述待处理队列的队首获取数据采集任务的操作失败；若否，则从所述待处理队列的队首获取数据采集任务并更新所述待处理队列的长度。其中，更新所述待处理队列的长度具体为：判断所述待处理队列是否为空，若是，则更新所述待处理队列的长度的操作失败；若否，则更新队首位置和所述待处理队列的长度。
[0082]
创建模块402，用于创建与所述url地址连接的非阻塞式socket，通过异步事件回调模式采集数据。
[0083]
在一些实施例中，所述采集数据的类型可以为html数据，也可以为xml数据，还可以为json数据。
[0084]
在一些实施例中，所述socket的类型可以为sock_stream，也可以为sock_dgram，还可以为sock_raw。
[0085]
存储模块403，用于将采集的数据写入已处理队列的队尾，以便需求端从所述已处理队列的队首获取数据并进行保存。
[0086]
在一些实施例中，所述存储模块403设置有第二判断单元，用于判断所述已处理队列是否已满，若是，则将采集的数据写入已处理队列的队尾的操作失败；若否，则将采集的数据写入已处理队列的队尾并更新所述已处理队列的长度。
[0087]
所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，所述描述的模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
[0088]
本公开的技术方案中，所涉及的用户个人信息的获取，存储和应用等，均符合相关法律法规的规定，且不违背公序良俗。
[0089]
根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
[0090]
图5示出了可以用来实施本公开的实施例的电子设备500的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。
[0091]
电子设备500包括计算单元501，其可以根据存储在rom502中的计算机程序或者从存储单元508加载到ram503中的计算机程序，来执行各种适当的动作和处理。在ram503中，
还可存储电子设备500操作所需的各种程序和数据。计算单元501、rom502以及ram503通过总线504彼此相连。i/o接口505也连接至总线504。
[0092]
电子设备500中的多个部件连接至i/o接口505，包括：输入单元506，例如键盘、鼠标等；输出单元507，例如各种类型的显示器、扬声器等；存储单元508，例如磁盘、光盘等；以及通信单元509，例如网卡、调制解调器、无线通信收发机等。通信单元509允许电子设备500通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
[0093]
计算单元501可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元501的一些示例包括但不限于中央处理单元(cpu)、图形处理单元(gpu)、各种专用的人工智能(ai)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(dsp)、以及任何适当的处理器、控制器、微控制器等。计算单元501执行上文所描述的各个方法和处理，例如数据采集的方法。例如，在一些实施例中，数据采集的方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元508。在一些实施例中，计算机程序的部分或者全部可以经由rom502和/或通信单元509而被载入和/或安装到电子设备500上。当计算机程序加载到ram503并由计算单元501执行时，可以执行上文描述的数据采集的方法的一个或多个步骤。备选地，在其他实施例中，计算单元501可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行数据采集的方法。
[0094]
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、现场可编程门阵列(fpga)、专用集成电路(asic)、专用标准产品(assp)、芯片上系统(soc)、负载可编程逻辑设备(cpld)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
[0095]
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
[0096]
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦除可编程只读存储器(eprom或快闪存储器)、光纤、便捷式紧凑盘只读存储器(cd-rom)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
[0097]
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置；以及键盘和指向装置(例如，鼠标或者轨迹球)，用
户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
[0098]
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(lan)、广域网(wan)和互联网。
[0099]
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，也可以为分布式系统的服务器，或者是结合了区块链的服务器。
[0100]
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。
[0101]
上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

技术特征：
1.一种数据采集的方法，应用于数据采集中心，包括：从待处理队列的队首获取数据采集任务并进行解析，得到url地址；其中，数据采集任务是由需求端写入所述待处理队列的队尾的；创建与所述url地址连接的非阻塞式socket，通过异步事件回调模式采集数据；将采集的数据写入已处理队列的队尾，以便需求端从所述已处理队列的队首获取数据并进行保存。2.根据权利要求1所述的方法，其中，所述待处理队列和已处理队列均为符合先进先出的数据处理顺序的线性队列。3.根据权利要求1所述的方法，其中，所述数据采集任务的数据结构包括任务名称、任务id、url地址、并发数和采集数据关键字。4.根据权利要求1所述的方法，其中，所述需求端写入所述待处理队列的队尾包括：判断所述待处理队列是否已满，若否，则将所述数据采集任务写入到所述待处理队列尾部并更新所述待处理队列的长度。5.根据权利要求1所述的方法，其中，所述从待处理队列的队首获取数据采集任务包括：判断所述待处理队列是否为空，若否，则从所述待处理队列的队首获取数据采集任务并更新所述待处理队列的长度。6.根据权利要求1所述的方法，其中，所述将采集的数据写入已处理队列的队尾包括：判断所述已处理队列是否已满，若否，则将采集的数据写入已处理队列的队尾并更新所述已处理队列的长度。7.根据权利要求1所述的方法，其中，所述需求端从所述已处理队列的队首获取数据包括：判断所述已处理队列是否为空，若否，则从所述已处理队列的队首获取数据。8.一种数据采集的装置，包括：获取模块，用于从待处理队列的队首获取数据采集任务并进行解析，得到url地址；其中，数据采集任务是由需求端写入所述待处理队列的队尾的；创建模块，用于创建与所述url地址连接的非阻塞式socket，通过异步事件回调模式采集数据；存储模块，用于将采集的数据写入已处理队列的队尾，以便需求端从所述已处理队列的队首获取数据并进行保存。9.一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-7中任一权利要求所述的方法。10.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据权利要求1至7中任一权利要求所述的方法。

技术总结
本公开的实施例提供了一种数据采集的方法、装置、电子设备和存储介质。应用于数据采集技术领域，所述方法包括从待处理队列的队首获取数据采集任务并进行解析，得到url地址；其中，数据采集任务是由需求端写入所述待处理队列的队尾的；创建与所述url地址连接的非阻塞式socket，通过异步事件回调模式采集数据；将采集的数据写入已处理队列的队尾，以便需求端从所述已处理队列的队首获取数据并进行保存。以此方式，可以通过先进先出的线性队列对数据采集任务和采集的数据进行按顺序执行，提高数据传输效率，同时采用异步非阻塞式的采集方式进一步提高数据采集的效率。进一步提高数据采集的效率。进一步提高数据采集的效率。


技术研发人员：郑旭 刘加瑞 陈勇
受保护的技术使用者：安徽华云安科技有限公司
技术研发日：2023.04.11
技术公布日：2023/8/5