一种服务的部署方法、装置、电子设备及存储介质.pdf
论文****酱吖
亲,该文档总共19页,到这已经超出免费预览范围,如果喜欢就直接下载吧~
相关资料
一种服务的部署方法、装置、电子设备及存储介质.pdf
本申请公开了一种服务的部署方法、装置、电子设备及存储介质。其中,服务的部署方法包括:基于设定的开发框架,生成第一镜像和第二镜像;所述第一镜像表征用于进行模型训练的容器镜像;所述第二镜像表征用于进行服务部署的容器镜像;通过调用所述第一镜像,生成并训练完成至少一个算法模型;通过调用所述第二镜像,基于所述至少一个算法模型中的一个或多个算法模型生成并部署第一服务。
一种服务功能链部署方法、装置、电子设备及存储介质.pdf
本发明公开了一种服务功能链部署方法、装置、电子设备及存储介质,用于解决现有的VNF放置方法无法兼顾可靠性和开销成本的技术问题。本发明包括:初始化底层网络拓扑信息和服务功能链SFC请求;根据所述初始化底层网络拓扑信息和所述SFC请求,以可靠性和开销成本加权差最大化为优化目标,建立部署成本优化模型;根据预设改进模拟退火算法求解所述部署成本优化模型,生成具有最优加权差的SFC部署方案;根据所述底层网络拓扑信息和所述SFC部署方案,生成初始路径集合,并从所述初始路径集合中确定目标路径,并基于所述目标路径的预设资源
在线预测服务的部署方法、装置、电子设备及存储介质.pdf
本说明书提供一种在线预测服务的部署方法,包括:获取待部署的预测服务的子模型配置信息;根据所述子模型配置信息,在与所述预测服务对应的机器集群上分别部署至少两个机器学习模型,分别确定上述至少两个机器学习模型对应的注册地址;获取预测服务的多模型组合逻辑配置信息;将上述多模型组合逻辑配置信息以及上述至少两个机器学习模型对应的注册地址发送至预测服务网关,由预测服务网关完成上述预测服务的部署。本说明书还提供了实现上述在线预测服务部署的装置、电子设备及存储介质。
微服务部署方法、装置、电子设备及存储介质.pdf
本发明涉及人工智能技术,提供一种微服务部署方法,首先基于预期搭设的微服务项目形成主配置文件,再基于主配置文件生成部署模板,再通过部署模板与预设的集群信息建立关联通道,而后通过关联通道将构建的镜像文本与部署模板置于目标环境中以完成部署,由于通过改进简化,去掉了开发环境、测试环境、预发布环境、生产环境配置文件,只保留了主配置文件,在主配置文件中用变量去配置信息,如此,减少了微服务项目中配置的冗余,使得项目配置更加精简,从而使得配置文件可读性好,更易于和部署模板、微服务之间交互。
一种模型部署方法、装置、电子设备及存储介质.pdf
本发明提供一种模型部署方法、装置、电子设备及储存介质,其特征在于,所述方法包括:对训练后的初始模型进行量化,得到量化模型;获取量化模型的各模块的onnx模型及量化校准文件;修正各模块的onnx模型及量化校准文件;合并各模块的onnx模型及量化校准文件,得到第一onnx模型和量化校准文件集;将量化校准文件集转码为可读取文件;基于第一onnx模型和可读取文件,由平台生成模型;对平台生成的模型进行部署。本发明中获取量化后模型的onnx模型,提高tensorRT对算子的融合,提高运行效率,并转化为特定平台的模型,