用户代码运行方法及装置、电子设备和存储介质.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN113905083A(43)申请公布日2022.01.07(21)申请号202111205652.5(22)申请日2021.10.15(71)申请人上海商汤临港智能科技有限公司地址200232上海市自由贸易试验区临港新片区泥城镇秋山路1775弄29、30号2楼01室(72)发明人张宁杨子骁邹雨竹(74)专利代理机构北京林达刘知识产权代理事务所(普通合伙)11277代理人刘新宇(51)Int.Cl.H04L67/141(2022.01)H04L67/143(2022.01)H04L67/1023(2022.01)H04L12/66(2006.01)权利要求书2页说明书18页附图6页(54)发明名称用户代码运行方法及装置、电子设备和存储介质(57)摘要本公开涉及一种用户代码运行方法及装置、电子设备和存储介质，所述方法包括：网关响应于接收到用户终端的连接请求，确定用户终端所属的租户，以及租户对应的计算集群，并建立计算集群中的目标计算节点与用户终端的连接，将用户终端发出的用户代码发送至目标计算节点，再将目标计算节点对用户代码的运行结果反馈至用户终端。本公开实施例能够支持以租户为粒度的计算资源隔离，每个租户可对应一个计算集群，根据每一用户终端发送的连接请求，网关可灵活地为每一用户终端匹配合适的目标计算节点，使用户终端与对应的计算集群中的目标计算节点直连，节省了用户代码运行所需的硬件资源，提高了用户代码运行效率。CN113905083ACN113905083A权利要求书1/2页1.一种用户代码运行方法，其特征在于，所述方法应用于网关，所述方法包括：响应于接收到用户终端的连接请求，根据所述连接请求，确定所述用户终端所属的租户，以及所述租户对应的计算集群，所述计算集群包括至少一个计算节点；建立所述计算集群中的目标计算节点与所述用户终端的连接；将所述用户终端发出的用户代码发送至所述目标计算节点；将所述目标计算节点对所述用户代码的运行结果反馈至所述用户终端。2.根据权利要求1所述的方法，其特征在于，建立所述计算集群中的目标计算节点与所述用户终端的连接，包括：根据负载均衡策略，从所述用户终端所属的租户对应的计算集群中，选取所述目标计算节点；建立所述目标计算节点与所述用户终端的连接。3.根据权利要求1所述的方法，其特征在于，所述至少一个计算节点被部署于不同配置的服务器，建立所述计算集群中的目标计算节点与所述用户终端的连接，包括：根据所述用户终端的所述连接请求，确定所述用户代码需要的算力资源；根据所述算力资源，从所述不同配置的服务器中，确定支持所述算力资源的目标服务器；建立所述目标服务器对应的目标计算节点与所述用户终端的连接。4.根据权利要求1所述的方法，其特征在于，所述方法还包括：在将所述目标计算节点对所述用户代码的运行结果反馈至所述用户终端之后，断开所述计算集群中的目标计算节点与所述用户终端的连接。5.一种用户代码运行方法，其特征在于，所述方法应用于服务器，所述服务器部署有至少一个计算集群，一个计算集群包括至少一个计算节点，所述方法包括：通过网关建立与用户终端的连接，所述计算节点为所述用户终端所属的租户对应的计算集群中的至少一个计算节点中的目标计算节点；通过所述网关接收所述用户终端发出的用户代码；对所述用户代码进行运行，得到运行结果；将所述运行结果通过所述网关反馈至所述用户终端。6.根据权利要求5所述的方法，其特征在于，对所述用户代码进行运行，得到运行结果，包括：将所述用户代码作为运行任务放置于任务队列中；从所述任务队列中获取所述运行任务；执行所述运行任务，得到所述运行结果。7.根据权利要求6所述的方法，其特征在于，所述计算节点包括服务执行环境和代码执行环境，对所述用户代码进行运行，得到运行结果，包括：在所述服务执行环境中，将所述用户代码作为运行任务放置于所述任务队列中，并从所述任务队列中获取所述运行任务；在所述代码执行环境中，执行所述运行任务，得到所述运行结果。2CN113905083A权利要求书2/2页8.根据权利要求6或7所述的方法，其特征在于，所述方法还包括：在将所述运行结果通过所述网关反馈至所述用户终端，通过所述网关断开与所述用户终端的连接之后，所述计算节点释放与所述运行任务对应的计算资源。9.根据权利要求7所述的方法，其特征在于，所述方法还包括：监控服务器上部署的每个计算集群中每个计算节点的所述任务队列的排队拥挤程度；根据所述排队拥挤程度，调整每个计算集群的计算节点的数量。10.一种用户代码运行装置，其特征在于，所述装置应用于网关，所述装置包括：确定模块，用于响应于接收到用户终端的连接请求，根据所述连接请求，确定所述用户终端所属的租户，以及所述租户对应的计算集