请求处理方法、装置、设备和存储介质.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN113900731A(43)申请公布日2022.01.07(21)申请号202111162051.0(22)申请日2021.09.30(71)申请人百度在线网络技术（北京）有限公司地址100085北京市海淀区上地十街10号百度大厦三层(72)发明人尹彦涛(74)专利代理机构北京品源专利代理有限公司11332代理人郭德霞(51)Int.Cl.G06F9/445(2018.01)权利要求书3页说明书8页附图5页(54)发明名称请求处理方法、装置、设备和存储介质(57)摘要本公开提供了一种请求处理方法、装置、设备和存储介质，涉及计算机技术领域，尤其涉及小程序技术领域。具体实现方案为：接收服务调用请求；根据至少两个候选服务节点的权重，从所述至少两个候选服务节点中为所述服务调用请求选择目标服务节点；其中，所述候选服务节点的权重根据候选服务节点在历史时间窗口的吞吐量和延迟时长确定；所述候选服务节点的选择概率与所述候选服务节点的权重呈正相关。本公开实施例能够提高服务的性能与稳定性。CN113900731ACN113900731A权利要求书1/3页1.一种请求处理方法，包括：接收服务调用请求；根据至少两个候选服务节点的权重，从所述至少两个候选服务节点中为所述服务调用请求选择目标服务节点；其中，所述候选服务节点的权重根据候选服务节点在历史时间窗口的吞吐量和延迟时长确定；所述候选服务节点的选择概率与所述候选服务节点的权重呈正相关。2.根据权利要求1所述的方法，所述根据至少两个候选服务节点的权重，从所述至少两个候选服务节点中为所述服务调用请求选择目标服务节点之前，还包括：将候选服务节点在历史时间窗口的历史延迟时长与延迟时长下限值进行比较，并根据比较结果剔除小于所述延迟时长下限值的历史延迟时长；根据剩余的历史延迟时长确定候选服务节点在历史时间窗口的平均延迟时长；将候选服务节点在历史时间窗口的吞吐量与所述平均延迟时长之商，作为候选服务节点的权重。3.根据权利要求1所述的方法，其中，所述根据至少两个候选服务节点的权重，从所述至少两个候选服务节点中为所述服务调用请求选择目标服务节点，包括：生成当前随机数；其中，所述当前随机数小于各候选服务节点的总权重；从服务完全二叉树所包括的至少两个候选服务节点中选择当前服务节点；其中，所述服务完全二叉树中的候选服务节点包括自身权重和左子树权重和；根据所述当前随机数、当前服务节点的自身权重和左子树权重和，从所述至少两个候选服务节点中为所述服务调用请求选择目标服务节点。4.根据权利要求3所述的方法，其中，所述根据所述当前随机数、当前服务节点的自身权重和左子树权重和，从所述至少两个候选服务节点中为所述服务调用请求选择目标服务节点，包括：若所述当前服务节点的左子树权重和大于所述当前随机数，则从当前服务节点的左子树中为所述服务调用请求选择目标服务节点；若所述当前服务节点的左子树权重和小于或等于所述当前随机数，且当前随机数大于当前服务节点的自身权重与左子树权重和之间的权重总和，则更新当前随机数，并根据新的当前随机数从当前服务节点的右子树中为所述服务调用请求选择目标服务节点；否则，将所述当前服务节点作为目标服务节点。5.根据权利要求4所述的方法，其中，所述更新当前随机数，包括：将所述当前随机数与所述权重总和之间的差值，作为新的当前随机数。6.根据权利要求1所述的方法，其中，所述根据至少两个候选服务节点的权重，从所述至少两个候选服务节点中为所述服务调用请求选择目标服务节点，包括：生成当前随机数；其中，所述当前随机数小于各候选服务节点的总权重；遍历各候选服务节点，若经遍历的前i‑1个候选服务节点的权重之和小于或等于所述当前随机数，且经遍历的前i个候选服务节点的权重之和大于所述当前随机数，则将第i个节点作为所述目标服务节点。7.根据权利要求1所述的方法，其中，所述服务调用请求为对小程序的访问请求。8.一种请求处理装置，包括：2CN113900731A权利要求书2/3页请求接收模块，用于接收服务调用请求；服务节点选择模块，用于根据至少两个候选服务节点的权重，从所述至少两个候选服务节点中为所述服务调用请求选择目标服务节点；其中，所述候选服务节点的权重根据候选服务节点在历史时间窗口的吞吐量和延迟时长确定；所述候选服务节点的选择概率与所述候选服务节点的权重呈正相关。9.根据权利要求8所述的装置，还包括节点权重确定模块，所述节点权重确定模块包括：延迟筛选单元，用于将候选服务节点在历史时间窗口的历史延迟时长与延迟时长下限值进行比较，并根据比较结果剔除小于所述延迟时长下限值的历史延迟时长；平均延迟单元，用于根据剩余的历史延迟时长确定候选服务节点在历史时间窗口的平均延迟时长；节点