模型保护方法、装置、设备、系统以及存储介质.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN113722683A(43)申请公布日2021.11.30(21)申请号202111007976.8(22)申请日2021.08.30(71)申请人北京百度网讯科技有限公司地址100085北京市海淀区上地十街10号百度大厦2层(72)发明人岳双燕樊中恺(74)专利代理机构中科专利商标代理有限责任公司11021代理人刘丽丽(51)Int.Cl.G06F21/12(2013.01)G06F21/64(2013.01)权利要求书4页说明书13页附图6页(54)发明名称模型保护方法、装置、设备、系统以及存储介质(57)摘要本公开公开了一种模型保护方法，涉及计算机领域，尤其涉及人工智能领域，可以用于AI模型保护等应用场景。具体实现方案为：生成WASM文件，其中，WASM文件用于为目标模型提供运行环境，WASM文件中包含对应的模型推理算法以及安全验证算法，其中，安全验证算法通过执行以下安全验证操作中的至少之一，以实现对目标模型的保护：对宿主环境进行验证；对WASM文件的完整性进行验证；对模型文件的完整性进行验证，其中，模型文件是对应于目标模型的原模型文件生成的；在模型推理过程中，对指定推理过程进行超时验证；在模型推理过程中，对整个推理过程进行超时验证。CN113722683ACN113722683A权利要求书1/4页1.一种模型保护方法，包括：生成WASM文件，其中，所述WASM文件用于为目标模型提供运行环境，所述WASM文件中包含对应的模型推理算法以及安全验证算法，其中，所述安全验证算法通过执行以下安全验证操作中的至少之一，以实现对所述目标模型的保护：对宿主环境进行验证；对所述WASM文件的完整性进行验证；对模型文件的完整性进行验证，其中，所述模型文件是对应于所述目标模型的原模型文件生成的；在模型推理过程中，对指定推理过程进行超时验证；在模型推理过程中，对整个推理过程进行超时验证。2.根据权利要求1所述的方法，还包括以下至少之一：对所述模型文件进行加密，得到经加密的模型文件；对所述WASM文件进行加密，得到经加密的WASM文件；对所述目标模型的模型配置信息进行加密，得到经加密的模型配置信息；对所述目标模型的权重数据进行加密，得到经加密的权重数据；其中，所述WASM文件中还包含对应的解密算法，所述解密算法用于对以下至少之一进行解密：所述经加密的模型文件、所述经加密的模型配置信息、所述经加密的权重数据。3.根据权利要求2所述的方法，还包括：对解密用的密钥进行加密，得到经加密的密钥。4.根据权利要求1至3中任一项所述的方法，还包括：针对所述目标模型，为至少一个用户中的每个用户配置一个访问密钥标识。5.一种模型保护方法，包括：加载对应于目标模型生成的模型文件；加载WASM文件，其中，所述WASM文件用于为所述目标模型提供运行环境；在所述WASM文件实例化运行中，将所述模型文件传入所述运行环境，以执行以下安全验证操作中的至少之一，从而对所述目标模型启动模型保护机制：对宿主环境进行验证；对所述WASM文件的完整性进行验证；对所述模型文件的完整性进行验证；在模型推理过程中，对指定推理过程进行超时验证；在模型推理过程中，对整个推理过程进行超时验证。6.根据权利要求5所述的方法，其中：响应于对用户鉴权通过，获取并加载所述模型文件和所述WASM文件。7.根据权利要求5或6所述的方法，其中：所述模型文件和/或所述WASM文件为经加密的文件。8.根据权利要求7所述的方法，还包括：在所述WASM文件实例化运行中，响应于预设安全验证通过，对经加密的模型文件进行解密，得到解密后的模型文件；以及2CN113722683A权利要求书2/4页基于所述解密后的模型文件进行模型推理。9.根据权利要求8所述的方法，其中，所述预设安全验证包括以下中的至少之一：宿主环境验证、模型文件完整性验证、WASM文件完整性验证。10.根据权利要求8所述的方法，其中，所述对经加密的模型文件进行解密，包括：获取解密用的经加密的密钥；对所述经加密的密钥进行解密，得到解密后的密钥；以及利用所述解密后的密钥，对所述经加密的模型文件进行解密。11.一种模型保护装置，包括：生成模块，用于生成WASM文件，其中，所述WASM文件用于为目标模型提供运行环境，所述WASM文件中包含对应的模型推理算法以及安全验证算法，其中，所述安全验证算法通过执行以下安全验证操作中的至少之一，以实现对所述目标模型的保护：对宿主环境进行验证；对所述WASM文件的完整性进行验证；对模型文件的完整性进行验证，其中，所述模型文件是对应于所述目标模型的原模型文件生成的；在模型推理过程中，对指定推理过程进行超时验证；在模型推理过程中，对整个推理过程进行超时验证。1