服务调度方法、装置、设备以及存储介质.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN114265692A(43)申请公布日2022.04.01(21)申请号202111571290.1(22)申请日2021.12.21(71)申请人北京精英路通科技有限公司地址100196北京市通州区环科中路17号17幢2层101室(72)发明人李旺平师小凯(74)专利代理机构北京英赛嘉华知识产权代理有限责任公司11204代理人王达佐马晓亚(51)Int.Cl.G06F9/50(2006.01)G06F9/54(2006.01)权利要求书2页说明书8页附图6页(54)发明名称服务调度方法、装置、设备以及存储介质(57)摘要本公开提供了一种服务调度方法、装置、设备以及存储介质，涉及云服务技术领域，可应用于云平台。该方法包括：接收至少一个客户端发送的并发请求；为并发请求中的每个请求从预先生成的多条流水线中确定用于处理该请求的目标流水线；响应于确定目标流水线对请求的预估处理时间超过该请求的预设超时时间，获取该请求在目标流水线中的预估排队时间；将预估排队时间发送给发送该请求的客户端，以使客户端根据预估排队时间调整请求发送策略。本公开提供的方法充分利用了服务器资源以对前端并发请求进行处理，从而提升了服务器对请求的处理效率。CN114265692ACN114265692A权利要求书1/2页1.一种服务调度方法，包括：接收至少一个客户端发送的并发请求；为所述并发请求中的每个请求从预先生成的多条流水线中确定用于处理该请求的目标流水线；响应于确定所述目标流水线对所述请求的预估处理时间超过该请求的预设超时时间，获取该请求在所述目标流水线中的预估排队时间；将所述预估排队时间发送给发送该请求的客户端，以使所述客户端根据所述预估排队时间调整请求发送策略。2.根据权利要求1所述的方法，其中，所述多条流水线通过以下步骤生成：获取服务器的资源的上限值；基于所述上限值生成多条用于并发处理请求的流水线。3.根据权利要求1所述的方法，其中，所述为所述并发请求中的每个请求从预先生成的多条流水线中确定用于处理该请求的目标流水线，包括：对于所述并发请求中的每个请求，基于贪心算法从所述多条流水线中确定用于处理该请求的目标流水线。4.根据权利要求1所述的方法，还包括：基于所述目标流水线处理请求的平均时间以及所述目标流水线中待处理请求的个数，得到所述目标流水线对所述请求的预估处理时间；将所述预估处理时间与所述请求的预设超时时间进行比较，确定所述预估处理时间是否超过所述预设超时时间。5.根据权利要求4所述的方法，其中，所述获取该请求在所述目标流水线中的预估排队时间，包括：将所述预估处理时间作为该请求在所述目标流水线中的预估排队时间。6.根据权利要求4所述的方法，还包括：响应于确定所述预估处理时间不超过所述预设超时时间，将所述请求直接放入处理队列。7.根据权利要求1‑6中任一项所述的方法，还包括：响应于确定所述客户端数量增加，增大所述客户端发送请求的周期。8.一种服务调度装置，包括：接收模块，被配置成接收至少一个客户端发送的并发请求；确定模块，被配置成为所述并发请求中的每个请求从预先生成的多条流水线中确定用于处理该请求的目标流水线；获取模块，被配置成响应于确定所述目标流水线对所述请求的预估处理时间超过该请求的预设超时时间，获取该请求在所述目标流水线中的预估排队时间；发送模块，被配置成将所述预估排队时间发送给发送该请求的客户端，以使所述客户端根据所述预估排队时间调整请求发送策略。9.根据权利要求8所述的装置，其中，所述多条流水线通过以下步骤生成：获取服务器的资源的上限值；基于所述上限值生成多条用于并发处理请求的流水线。2CN114265692A权利要求书2/2页10.根据权利要求8所述的装置，其中，所述确定模块包括：确定子模块，被配置成对于所述并发请求中的每个请求，基于贪心算法从所述多条流水线中确定用于处理该请求的目标流水线。11.根据权利要求8所述的装置，还包括：得到模块，被配置成基于所述目标流水线处理请求的平均时间以及所述目标流水线中待处理请求的个数，得到所述目标流水线对所述请求的预估处理时间；比较模块，被配置成将所述预估处理时间与所述请求的预设超时时间进行比较，确定所述预估处理时间是否超过所述预设超时时间。12.根据权利要求11所述的方法，其中，所述获取模块包括：获取子模块，被配置成将所述预估处理时间作为该请求在所述目标流水线中的预估排队时间。13.根据权利要求11所述的装置，还包括：处理模块，被配置成响应于确定所述预估处理时间不超过所述预设超时时间，将所述请求直接放入处理队列。14.根据权利要求8‑13中任一项所述的装置，还包括：增大模块，被配置成响应于确定所述客户端数量增加，增大所述客户端发送请